Größte Singularwerte
Angesichts der positiven semidefiniten, symmetrischen Matrix $A = bb^T + \sigma^2I$wo b ein Spaltenvektor ist, ist es möglich, die Singularwerte und Singularvektoren der Matrix analytisch zu finden? Ich weiß, dass es echte Eigenwerte hat, da es symmetrisch und positiv semidefinit ist, aber nicht sicher ist, ob diese Werte und ihre entsprechenden Vektoren direkt aufgelöst werden sollen.
Antworten
Die Singularwerte sind die Eigenwerte von $A.$ Per Definition, wenn ein Vektor ungleich Null existiert $\mathbf x$ für welche $A\mathbf{x}=\lambda \mathbf{x},$ $\lambda$ ist ein Eigenwert und $\mathbf{x}$ ist ein entsprechender Eigenvektor.
Beachten Sie also, dass
$$A\mathbf{b} = (\mathbf{b}\mathbf{b}^\prime + \sigma^2I)\mathbf{b} = \mathbf{b}(\mathbf{b}^\prime \mathbf{b}) + \sigma^2 \mathbf{b} = (|\mathbf{b}|^2+\sigma^2)\mathbf{b},$$
das demonstrieren $\mathbf{b}$ ist ein Eigenvektor mit Eigenwert $\lambda_1 = |\mathbf{b}|^2 + \sigma^2.$
Außerdem wann immer $\mathbf{x}$ ist ein Vektor orthogonal zu $\mathbf{b}$ -- das ist wenn $\mathbf{b}^\prime \mathbf{x} = \pmatrix{0},$ wir können ähnlich berechnen
$$A\mathbf{x} = (\mathbf{b}\mathbf{b}^\prime + \sigma^2I)\mathbf{x} = \mathbf{b}(\mathbf{b}^\prime \mathbf{x}) + \sigma^2 \mathbf{x} = (0+\sigma^2)\mathbf{x},$$
Dies zeigt, dass alle diese Vektoren Eigenvektoren mit Eigenwert sind $\sigma^2.$
Vorausgesetzt, diese Vektoren befinden sich in einem endlich dimensionalen Vektorraum der Dimension $n$ (sagen wir), eine einfache Induktion stellt fest, dass die Vektoren $x$ für welche $\mathbf{b}^\prime \mathbf{x}=0$ bilden einen Unterraum $\mathbf{b}^\perp$ der Dimension $n-1.$ Lassen $\mathbf{e}_2, \ldots, \mathbf{e}_n$eine orthonormale Basis für diesen Unterraum sein. Es erstreckt sich auf eine orthonormale Basis$\mathscr{E} = (\mathbf{\hat b}, \mathbf{e}_2, \ldots, \mathbf{e}_n)$ des ganzen Raumes wo $\mathbf{\hat b} = \mathbf{b}/|\mathbf{b}|$. In Bezug auf diese Basis ist die Matrix von$A$ deshalb ist
$$\operatorname{Mat}(A, \mathscr{E}, \mathscr{E}) = \pmatrix{|\mathbf{b}|^2+\sigma^2 & 0 & 0 & \cdots & 0 \\ 0 & \sigma^2 & 0 & \cdots & 0 \\ 0 & 0 & \ddots & \vdots & \vdots \\ \vdots & \vdots & \cdots & \ddots & 0 \\ 0 & 0 & \cdots & 0 & \sigma^2 }$$
Unabhängig davon, ob jeder Schritt dieser Ableitung klar war oder nicht, können Sie das Ergebnis durch Festlegen überprüfen
$$Q = \left(\mathbf{b}; \mathbf{e}_2; \ldots; \mathbf{e}_n\right)$$
die Matrix mit den angegebenen Spalten und Berechnungen zu sein
$$Q\,\operatorname{Mat}(A, \mathscr{E}, \mathscr{E})\,Q^\prime = \mathbf{b}^\prime + \sigma^2I = A.$$
Dies ist explizit eine Singularwertzerlegung der Form $U\Sigma V^\prime$ wo $V=Q,$ $\Sigma= \operatorname{Mat}(A, \mathscr{E}, \mathscr{E}),$ und $U=Q^\prime.$
Der Gram-Schmidt-Prozess bietet einen allgemeinen Algorithmus zum Auffinden$\mathscr{E}$ (und deshalb $Q$): seine Eingabe ist die Reihe von Vektoren $\mathbf{\hat b}$, $(1,0,\ldots,0)^\prime,$ und so weiter durch $(0,\ldots,0,1)^\prime.$ Nach dem $n-1$ In Schritten wird eine orthonormale Basis einschließlich des Startvektors erzeugt $\mathbf b.$
Als Beispiel sei$\mathbf{b} = (3,4,0)^\prime.$ Mit $\sigma^2 = 1,$ berechnen
$$\mathbf{b}\mathbf{b}^\prime + \sigma^2 I = \pmatrix{10&12&0\\12&17&0\\0&0&1}$$
Hier, $|\mathbf{b}|^2 = 3^2+4^2+0^2=5^2,$ so dass $\mathbf{\hat b} = \mathbf{b}/5 = (3/5,4/5,0)^\prime.$ Eine Möglichkeit, dies auf eine orthonormale Basis auszudehnen, ist die Auswahl $\mathbf{e}_2 = (-4/5,3/5,0)^\prime$ und $\mathbf{e}_3 = (0,0,1)^\prime.$ So
$$Q = \pmatrix{3/5&4/5&0\\-4/5&3/5&0\\0&0&1}$$
und wir können das bestätigen
$$\begin{align} Q\,\operatorname{Mat}(A, \mathscr{E}, \mathscr{E})\,Q^\prime &= \pmatrix{3/5&4/5&0\\-4/5&3/5&0\\0&0&1}\pmatrix{5^2+1^2&0&0\\0&1&0\\0&0&1}\pmatrix{3/5&-4/5&0\\4/5&3/5&0\\0&0&1}\\ &=\pmatrix{10&12&0\\12&17&0\\0&0&1} \end{align}$$
wie beabsichtigt.