Valeurs propres dans la régression Ridge [duplicate]

Question

L'estimation de la régression des crêtes est donnée par $$\beta^{*}=(X'X+kI)^{-1}X'y, k≥0,$$ où $X$est la matrice de caractéristiques. L'article original, Hoerl and Kennard's Ridge Regression: Beased Estimation for Nonorthogonal Problems , déclare que les valeurs propres,$\lambda_i$, de $X'X$ sont liés aux valeurs propres, $\xi_i$, de $W = (X'X+kI)^{-1}$ comme $\xi_i=1/(k+\lambda_i)$. Cette expression découle de la résolution de l'équation caractéristique$|W - \xi_iI|=0$. Je ne peux qu'imaginer en utilisant une représentation cofacteur du déterminant. Cependant, l'inverse de$W$ complique les choses.

Comment résoudre exactement cette équation caractéristique?

Answer 1

Si $\lambda$ est une valeur propre non nulle d'une matrice inversible $A$, puis $\lambda^{-1}$ est une valeur propre de $A^{-1}$. Pour le montrer, notez que si$Av=\lambda v$ puis $v = A^{-1}(\lambda v) = \lambda A^{-1} v$ Et ainsi $\lambda^{-1} v = A^{-1} v$.