Relación entre la proyección de$y$sobre$x_1, x_2$individualmente vs proyección en ambos?

Aug 16 2020

Esto es esencialmente similar a la pregunta que acabo de hacer en la validación cruzada , pero aquí voy a plantearla en forma de álgebra lineal.

Considerar$y \in \mathbb{R}^n$y$x_1, x_2, 1_n \in \mathbb{R}^{n}$. Supongamos que proyecta ortogonalmente$y$sobre$x_1, 1_n$y encontrar la proyección de$y$en el subespacio atravesado por$x_1, 1_n$Se puede escribir como$\hat{y}_1 = \hat{\beta}_1 x_1 + b_1$, es decir, una combinación lineal de$x_1$más algo de compensación. Ahora haga lo mismo para la proyección ortogonal de$y$sobre$x_2, 1_n$y encontrar$\hat{y}_2 = \hat{\beta}_2 x_2 + b_2$.

Ahora considere proyectar$y$en el subespacio atravesado por ambos$x_1, x_2, 1_n$y encontrar$\hat{y}_{12} = \hat{\gamma}_1 x_1 + \hat{\gamma}_2x_2 + b_{12}$.

Si$x_1 \perp x_2$, entonces sé$\hat{\beta}_i = \hat{\gamma}_i$. Pero, ¿y si no son ortogonales?

¿Qué puedo decir sobre la relación entre$\hat{\beta}$y$\hat{\gamma}$¿en este caso?

Algunas preguntas específicas que también me interesan son si$\hat{\beta} >0 $, implica esto$\hat{\gamma} > 0$? Si$x_1, x_2$son linealmente dependientes, entonces no creo que esto no sea cierto para uno de los coeficientes.

Respuestas

VSSChaitanyaChavali Mar 12 2021 at 19:14

No puedo decir que entendí completamente lo que esas constantes$b_1$,$b_2$o$b_{12}$son para. Pero entendí la esencia de tu pregunta y haré lo mejor que pueda.

Di la proyección ortogonal de$y$en el subespacio atravesado por$x_1$Se puede escribir como$\hat{y}_1 = \hat{\beta}_1 x_1$, es decir, una combinación lineal de$x_1$. Ahora hacemos lo mismo para la proyección ortogonal de$y$sobre$x_2$y encontrar$\hat{y}_2 = \hat{\beta}_2 x_2$.

También tenemos la proyección de$y$en el subespacio atravesado por ambos$x_1, x_2$y encontrar$\hat{y}_{12} = \hat{\gamma}_1 x_1 + \hat{\gamma}_2x_2$.

Sin pérdida de generalidad podemos decir los vectores$x_1$y$x_2$son vectores unitarios y los representan por$\hat{x_1}$y$\hat{x_2}$. Si no desea hacer esto, reescriba todos los vectores en términos de$\hat{x_1}$y$\hat{x_2}$. Así por ejemplo,$\hat{\beta_1}$se convertirá$\hat{\beta_1} ||x_1||$

Ahora, considere esta declaración. La proyección ortogonal de$\hat{y_{12}}$sobre$x_1$sería lo mismo que$\hat{y_1}$y la proyección ortogonal de$\hat{y_{12}}$sobre$x_2$sería lo mismo que$\hat{y_2}$.

Entonces, por la definición de proyección,

$$ \hat{y_{12}}.\hat{x_1} = ||\hat{y_1}|| $$

$$ \implies (\hat{\gamma}_1 \hat{x_1} + \hat{\gamma}_2 \hat{x_2}).\hat{x_1} = ||\hat{y_1}||$$

$$ \implies \hat{\gamma}_1 \hat{x_1}.\hat{x_1} + \hat{\gamma}_2 \hat{x_2}.\hat{x_1} = \hat{\beta}_1$$

$$ \implies \hat{\gamma}_1 + \hat{\gamma}_2 \hat{x_2}.\hat{x_1} = \hat{\beta}_1 \tag{1}$$

Del mismo modo podemos resolver$ \hat{y_{12}}.\hat{x_1} = ||\hat{y_2}|| $Llegar

$$ \implies \hat{\gamma}_1 \hat{x_1}.\hat{x_2} + \hat{\gamma}_2 = \hat{\beta}_2 \tag{2}$$

Ahí tienes Tenemos 2 ecuaciones y 2 incógnitas.

Obviamente debemos saber el valor de$\hat{x_1}.\hat{x_2}$, en otras palabras, el coseno del ángulo entre ellos, para obtener las relaciones requeridas. En el caso de que$\hat{x_1}$y$\hat{x_2}$son ortogonales,$cos \frac{\pi}{2}=0$y de ahí el resultado que diste$\hat{\beta}_i = \hat{\gamma}_i$.