Związek między rzutowaniem $y$ na $x_1, x_2$ indywidualnie czy projekcja na obu?

Aug 16 2020

Jest to zasadniczo podobne do pytania, które właśnie zadałem na temat walidacji krzyżowej , ale tutaj zamierzam postawić je w sposób algebry liniowej.

Rozważać $y \in \mathbb{R}^n$ i $x_1, x_2, 1_n \in \mathbb{R}^{n}$. Załóżmy, że rzutujesz ortogonalnie$y$ na $x_1, 1_n$ i znajdź rzut $y$ na podprzestrzeń, którą rozpościera $x_1, 1_n$ można zapisać jako $\hat{y}_1 = \hat{\beta}_1 x_1 + b_1$, tj. liniowa kombinacja $x_1$plus trochę przesunięcia. Teraz zrób to samo dla rzutu ortogonalnego$y$ na $x_2, 1_n$ i znajdź $\hat{y}_2 = \hat{\beta}_2 x_2 + b_2$.

Teraz rozważ projekcję $y$ na podprzestrzeń, na którą składają się oba $x_1, x_2, 1_n$ i znajdź $\hat{y}_{12} = \hat{\gamma}_1 x_1 + \hat{\gamma}_2x_2 + b_{12}$.

Gdyby $x_1 \perp x_2$, to wiem $\hat{\beta}_i = \hat{\gamma}_i$. Ale co, jeśli nie są ortogonalne?

Co mogę powiedzieć o związku między $\hat{\beta}$ i $\hat{\gamma}$ w tym przypadku?

Kilka konkretnych pytań, które mnie również interesują, to czy $\hat{\beta} >0 $, czy to sugeruje $\hat{\gamma} > 0$? Gdyby$x_1, x_2$ są liniowo zależne, więc nie sądzę, żeby to było prawdą dla jednego ze współczynników.

Odpowiedzi

VSSChaitanyaChavali Mar 12 2021 at 19:14

Nie mogę powiedzieć, że w pełni rozumiałem, jakie są te stałe $b_1$, $b_2$ lub $b_{12}$są dla. Ale zrozumiałem istotę twojego pytania i postaram się jak najlepiej.

Powiedz prostopadłą projekcję $y$ na podprzestrzeń, którą rozpościera $x_1$ można zapisać jako $\hat{y}_1 = \hat{\beta}_1 x_1$, tj. liniowa kombinacja $x_1$. Teraz robimy to samo dla rzutu ortogonalnego$y$ na $x_2$ i znajdź $\hat{y}_2 = \hat{\beta}_2 x_2$.

Mamy również projekcję $y$ na podprzestrzeń, na którą składają się oba $x_1, x_2$ i znajdź $\hat{y}_{12} = \hat{\gamma}_1 x_1 + \hat{\gamma}_2x_2$.

Bez utraty ogólności możemy powiedzieć wektory $x_1$ i $x_2$ są wektorami jednostkowymi i reprezentują je za pomocą $\hat{x_1}$ i $\hat{x_2}$. Jeśli nie chcesz tego robić, przepisz wszystkie wektory pod względem$\hat{x_1}$ i $\hat{x_2}$. Na przykład$\hat{\beta_1}$ stanie się $\hat{\beta_1} ||x_1||$

Rozważmy teraz to stwierdzenie. Rzut prostopadły$\hat{y_{12}}$ na $x_1$ byłby taki sam jak $\hat{y_1}$ i rzut prostopadły $\hat{y_{12}}$ na $x_2$ byłby taki sam jak $\hat{y_2}$.

Zatem zgodnie z definicją projekcji

$$ \hat{y_{12}}.\hat{x_1} = ||\hat{y_1}|| $$

$$ \implies (\hat{\gamma}_1 \hat{x_1} + \hat{\gamma}_2 \hat{x_2}).\hat{x_1} = ||\hat{y_1}||$$

$$ \implies \hat{\gamma}_1 \hat{x_1}.\hat{x_1} + \hat{\gamma}_2 \hat{x_2}.\hat{x_1} = \hat{\beta}_1$$

$$ \implies \hat{\gamma}_1 + \hat{\gamma}_2 \hat{x_2}.\hat{x_1} = \hat{\beta}_1 \tag{1}$$

Podobnie możemy rozwiązać $ \hat{y_{12}}.\hat{x_1} = ||\hat{y_2}|| $ dostać

$$ \implies \hat{\gamma}_1 \hat{x_1}.\hat{x_2} + \hat{\gamma}_2 = \hat{\beta}_2 \tag{2}$$

Proszę bardzo. Mamy 2 równania i 2 niewiadome.

Oczywiście powinniśmy znać wartość $\hat{x_1}.\hat{x_2}$, innymi słowy, cosinus kąta między nimi, aby uzyskać wymagane relacje. W przypadku, gdy$\hat{x_1}$ i $\hat{x_2}$ są ortogonalne, $cos \frac{\pi}{2}=0$ i stąd wynik, który podałeś $\hat{\beta}_i = \hat{\gamma}_i$.