Eigenvalues ​​trong hồi quy Ridge [trùng lặp]

Question

Ước tính hồi quy sườn núi được đưa ra bởi $$\beta^{*}=(X'X+kI)^{-1}X'y, k≥0,$$ Ở đâu $X$là ma trận tính năng. Bài báo gốc, Hoerl và Kennard's Ridge Regression: Biased Estimation for Nonorthogonal Problems , nói rằng các giá trị riêng,$\lambda_i$, của $X'X$ có liên quan đến eigenvalues, $\xi_i$, của $W = (X'X+kI)^{-1}$ như $\xi_i=1/(k+\lambda_i)$. Biểu thức này sau khi giải phương trình đặc trưng$|W - \xi_iI|=0$. Tôi chỉ có thể tưởng tượng bằng cách sử dụng biểu diễn cofactor của định thức. Tuy nhiên, nghịch đảo trong$W$ làm phức tạp vấn đề.

Chính xác thì người ta giải phương trình đặc trưng này như thế nào?

Answer 1

Nếu $\lambda$ là một giá trị riêng khác không của một ma trận khả nghịch $A$, sau đó $\lambda^{-1}$ là một giá trị riêng của $A^{-1}$. Để hiển thị điều này, hãy lưu ý rằng nếu$Av=\lambda v$ sau đó $v = A^{-1}(\lambda v) = \lambda A^{-1} v$ và như vậy $\lambda^{-1} v = A^{-1} v$.