투영 사이의 관계 $y$ 위에 $x_1, x_2$ 개별적으로 vs. 둘 다에 대한 투영?
이것은 본질적으로 내가 cross validated 에서 물어 본 질문과 유사 하지만 여기서는 선형 대수 방식으로 포즈를 취하겠습니다.
중히 여기다 $y \in \mathbb{R}^n$ 과 $x_1, x_2, 1_n \in \mathbb{R}^{n}$. 직각으로 투영한다고 가정합니다.$y$ 위에 $x_1, 1_n$ 그리고 투영을 찾으십시오. $y$ 에 걸쳐있는 부분 공간에 $x_1, 1_n$ 다음과 같이 쓸 수 있습니다. $\hat{y}_1 = \hat{\beta}_1 x_1 + b_1$, 즉, 다음의 선형 조합 $x_1$플러스 약간의 오프셋. 이제 직교 투영에 대해 동일하게 수행하십시오.$y$ 위에 $x_2, 1_n$ 찾아 $\hat{y}_2 = \hat{\beta}_2 x_2 + b_2$.
이제 투영을 고려하십시오. $y$ 둘 다에 걸쳐있는 부분 공간에 $x_1, x_2, 1_n$ 찾아 $\hat{y}_{12} = \hat{\gamma}_1 x_1 + \hat{\gamma}_2x_2 + b_{12}$.
만약 $x_1 \perp x_2$, 그럼 알아 $\hat{\beta}_i = \hat{\gamma}_i$. 그러나 그들이 직교하지 않으면 어떨까요?
사이의 관계에 대해 무엇을 말할 수 있습니까? $\hat{\beta}$ 과 $\hat{\gamma}$ 이 경우?
제가 관심을 가지고있는 몇 가지 구체적인 질문은 $\hat{\beta} >0 $, 이것은 의미합니까 $\hat{\gamma} > 0$? 만약$x_1, x_2$ 선형 의존적이라면 계수 중 하나에 대해 이것이 사실이 아닐 것이라고 생각합니다.
답변
그 상수가 무엇인지 완전히 이해했다고 말할 수는 없습니다. $b_1$, $b_2$ 또는 $b_{12}$입니다. 그러나 나는 당신의 질문의 요지를 이해했고 최선을 다할 것입니다.
직교 투영을 말하십시오. $y$ 에 걸쳐있는 부분 공간에 $x_1$ 다음과 같이 쓸 수 있습니다. $\hat{y}_1 = \hat{\beta}_1 x_1$, 즉, 다음의 선형 조합 $x_1$. 이제 우리는 직교 투영에 대해 동일한 작업을 수행합니다.$y$ 위에 $x_2$ 찾아 $\hat{y}_2 = \hat{\beta}_2 x_2$.
또한 우리는 $y$ 둘 다에 걸쳐있는 부분 공간에 $x_1, x_2$ 찾아 $\hat{y}_{12} = \hat{\gamma}_1 x_1 + \hat{\gamma}_2x_2$.
일반성을 잃지 않고 벡터를 말할 수 있습니다. $x_1$ 과 $x_2$ 단위 벡터이며 $\hat{x_1}$ 과 $\hat{x_2}$. 이 작업을 원하지 않으면 모든 벡터를 다음과 같이 다시 작성하십시오.$\hat{x_1}$ 과 $\hat{x_2}$. 예를 들어$\hat{\beta_1}$ 될 것입니다 $\hat{\beta_1} ||x_1||$
이제이 진술을 고려하십시오. 직교 투영$\hat{y_{12}}$ 위에 $x_1$ 다음과 같을 것입니다 $\hat{y_1}$ 및 직교 투영 $\hat{y_{12}}$ 위에 $x_2$ 다음과 같을 것입니다 $\hat{y_2}$.
따라서 투영의 정의에 따라
$$ \hat{y_{12}}.\hat{x_1} = ||\hat{y_1}|| $$
$$ \implies (\hat{\gamma}_1 \hat{x_1} + \hat{\gamma}_2 \hat{x_2}).\hat{x_1} = ||\hat{y_1}||$$
$$ \implies \hat{\gamma}_1 \hat{x_1}.\hat{x_1} + \hat{\gamma}_2 \hat{x_2}.\hat{x_1} = \hat{\beta}_1$$
$$ \implies \hat{\gamma}_1 + \hat{\gamma}_2 \hat{x_2}.\hat{x_1} = \hat{\beta}_1 \tag{1}$$
마찬가지로 우리는 해결할 수 있습니다 $ \hat{y_{12}}.\hat{x_1} = ||\hat{y_2}|| $ 얻기 위해
$$ \implies \hat{\gamma}_1 \hat{x_1}.\hat{x_2} + \hat{\gamma}_2 = \hat{\beta}_2 \tag{2}$$
됐습니다. 2 개의 방정식과 2 개의 미지수가 있습니다.
분명히 우리는 $\hat{x_1}.\hat{x_2}$즉, 필요한 관계를 얻기 위해 그들 사이의 각도의 코사인입니다. 경우에$\hat{x_1}$ 과 $\hat{x_2}$ 직교, $cos \frac{\pi}{2}=0$ 따라서 당신이 준 결과 $\hat{\beta}_i = \hat{\gamma}_i$.