Nilai singular terbesar
Diketahui matriks simetris semi pasti positif $A = bb^T + \sigma^2I$di mana b adalah vektor kolom, apakah mungkin untuk mencari nilai singular dan vektor singular dari matriks secara analitik? Saya tahu bahwa ia memiliki nilai eigen nyata karena ini simetris dan positif semidefinite tetapi tidak yakin tentang menyelesaikan secara langsung untuk nilai-nilai tersebut dan vektor yang sesuai.
Jawaban
Nilai singular adalah nilai eigen dari $A.$ Menurut definisi, jika ada vektor bukan nol $\mathbf x$ untuk itu $A\mathbf{x}=\lambda \mathbf{x},$ $\lambda$ adalah nilai eigen dan $\mathbf{x}$ adalah vektor eigen yang sesuai.
Catat, kemudian, itu
$$A\mathbf{b} = (\mathbf{b}\mathbf{b}^\prime + \sigma^2I)\mathbf{b} = \mathbf{b}(\mathbf{b}^\prime \mathbf{b}) + \sigma^2 \mathbf{b} = (|\mathbf{b}|^2+\sigma^2)\mathbf{b},$$
mendemonstrasikan itu $\mathbf{b}$ adalah vektor eigen dengan nilai eigen $\lambda_1 = |\mathbf{b}|^2 + \sigma^2.$
Selanjutnya kapanpun $\mathbf{x}$ adalah vektor ortogonal $\mathbf{b}$ - yaitu, kapan $\mathbf{b}^\prime \mathbf{x} = \pmatrix{0},$ kita mungkin juga menghitungnya
$$A\mathbf{x} = (\mathbf{b}\mathbf{b}^\prime + \sigma^2I)\mathbf{x} = \mathbf{b}(\mathbf{b}^\prime \mathbf{x}) + \sigma^2 \mathbf{x} = (0+\sigma^2)\mathbf{x},$$
menunjukkan bahwa semua vektor tersebut adalah vektor eigen dengan nilai eigen $\sigma^2.$
Asalkan vektor-vektor ini berada dalam ruang vektor berdimensi berhingga $n$ (katakanlah), induksi langsung menetapkan bahwa vektor $x$ untuk itu $\mathbf{b}^\prime \mathbf{x}=0$ membentuk subruang $\mathbf{b}^\perp$ dimensi $n-1.$ Membiarkan $\mathbf{e}_2, \ldots, \mathbf{e}_n$menjadi dasar ortonormal untuk subruang ini. Ini meluas ke dasar ortonormal$\mathscr{E} = (\mathbf{\hat b}, \mathbf{e}_2, \ldots, \mathbf{e}_n)$ dari seluruh ruang tempat $\mathbf{\hat b} = \mathbf{b}/|\mathbf{b}|$. Dalam hal dasar ini matriks$A$ karena itu
$$\operatorname{Mat}(A, \mathscr{E}, \mathscr{E}) = \pmatrix{|\mathbf{b}|^2+\sigma^2 & 0 & 0 & \cdots & 0 \\ 0 & \sigma^2 & 0 & \cdots & 0 \\ 0 & 0 & \ddots & \vdots & \vdots \\ \vdots & \vdots & \cdots & \ddots & 0 \\ 0 & 0 & \cdots & 0 & \sigma^2 }$$
Apakah setiap langkah derivasi ini jelas atau tidak, Anda dapat memverifikasi hasilnya dengan menyetel
$$Q = \left(\mathbf{b}; \mathbf{e}_2; \ldots; \mathbf{e}_n\right)$$
menjadi matriks dengan kolom dan komputasi yang diberikan
$$Q\,\operatorname{Mat}(A, \mathscr{E}, \mathscr{E})\,Q^\prime = \mathbf{b}^\prime + \sigma^2I = A.$$
Ini secara eksplisit adalah dekomposisi nilai tunggal dari bentuk $U\Sigma V^\prime$ dimana $V=Q,$ $\Sigma= \operatorname{Mat}(A, \mathscr{E}, \mathscr{E}),$ dan $U=Q^\prime.$
Proses Gram Schmidt menyediakan algoritma umum untuk ditemukan$\mathscr{E}$ (dan oleh karena itu $Q$): masukannya adalah rangkaian vektor $\mathbf{\hat b}$, $(1,0,\ldots,0)^\prime,$ dan seterusnya $(0,\ldots,0,1)^\prime.$ Setelah $n-1$ langkah-langkah itu akan menghasilkan dasar ortonormal termasuk vektor awal $\mathbf b.$
Sebagai contoh, mari$\mathbf{b} = (3,4,0)^\prime.$ Dengan $\sigma^2 = 1,$ menghitung
$$\mathbf{b}\mathbf{b}^\prime + \sigma^2 I = \pmatrix{10&12&0\\12&17&0\\0&0&1}$$
Sini, $|\mathbf{b}|^2 = 3^2+4^2+0^2=5^2,$ maka $\mathbf{\hat b} = \mathbf{b}/5 = (3/5,4/5,0)^\prime.$ Salah satu cara untuk memperluas ini menjadi dasar ortonormal adalah dengan memilih $\mathbf{e}_2 = (-4/5,3/5,0)^\prime$ dan $\mathbf{e}_3 = (0,0,1)^\prime.$ Jadi
$$Q = \pmatrix{3/5&4/5&0\\-4/5&3/5&0\\0&0&1}$$
dan kami dapat memastikannya
$$\begin{align} Q\,\operatorname{Mat}(A, \mathscr{E}, \mathscr{E})\,Q^\prime &= \pmatrix{3/5&4/5&0\\-4/5&3/5&0\\0&0&1}\pmatrix{5^2+1^2&0&0\\0&1&0\\0&0&1}\pmatrix{3/5&-4/5&0\\4/5&3/5&0\\0&0&1}\\ &=\pmatrix{10&12&0\\12&17&0\\0&0&1} \end{align}$$
seperti yang dimaksudkan.