Kovaryans matrisi nihai formu [kapalı]
Bunu ilişkisizlikle ilgili Wikipedia sayfasından aldım. Sondan bir önceki terimden son terime nasıl geçilir?
$$K_{\bf XX}=\text{cov}[\bf X,X] =E[(\mathbf{X}-E[\mathbf{X}])(\mathbf{X}-E[\mathbf{X}])^T]= E[\mathbf{XX}^T]-E[\mathbf{X}]E[\bf X]^T$$
Yanıtlar
$$E[(\mathbf{X}-E[\mathbf{X}])(\mathbf{X}-E[\mathbf{X}])^T]\\ =E[(\mathbf{X}-E[\mathbf{X}])(\mathbf{X}^T-E[\mathbf{X}]^T)]\\ =E[\mathbf{XX}^T-E[\mathbf{X}]\mathbf{X}^T - \mathbf{X}E[\mathbf X]^T+E[\mathbf{X}]E[\mathbf X]^T]\qquad (1)$$ Bu noktada, gösterim kümesinden kaçınmak için, $\mu=E[\mathbf X]\implies \mu^T=E[\mathbf X]^T=E[\mathbf X^T]$
sabit olan ($\underline{\text{expectation of a constant is the constant itself}}$) , böylece beklentinin doğrusallığını kullanarak ,$$\text{terms with $\ mu$ inside $E [...]$ should simplify as }\ E[ E[\mathbf X] \mathbf X^T]=E[\mu \mathbf X^T]=\mu E[\mathbf X^T]$$ Böylece $(1)$ olarak basitleştirir $$\begin{aligned}&E[\mathbf{XX}^T-E[\mathbf{X}]\mathbf{X}^T - \mathbf{X}E[\mathbf X]^T+E[\mathbf{X}]E[\mathbf X]^T]\\ =&E[\mathbf{XX}^T-\mu\mathbf{X}^T - \mathbf{X}\mu^T+\mu\mu^T]\\ =&E[\mathbf{XX}^T]-\mu E[\mathbf X^T]-E[\mathbf X]\mu^T+E[\mu\mu^T]\\ =&E[\mathbf{XX}^T]-\mu\mu^T-\mu\mu^T+\mu\mu^T \ (\text{from underlined fact, } E[\mu\mu^T]=\mu\mu^T)\\ =&E[\mathbf{XX}^T]-2\mu\mu^T+\mu\mu^T\\ =&E[\mathbf{XX}^T]-\mu\mu^T\\ =&E[\mathbf{XX}^T]-E[\mathbf{X}]E[\mathbf{X}]^T\end{aligned}$$
Orta terimi genişletmek:
$E[(\mathbf{X}-E[\mathbf{X}])(\mathbf{X}-E[\mathbf{X}])^T] = E[(\mathbf{X}\mathbf{X}^T -\mathbf{X}E(\mathbf{X})^T - E(\mathbf{X})\mathbf{X}^T + E(\mathbf{X})E(\mathbf{X})^T]$
Operatör $E$ doğrusaldır, dolayısıyla bu olur
$E[\mathbf{X}\mathbf{X}^T] -E[\mathbf{X}]E[\mathbf{X}]^T -E[\mathbf{X}]E[\mathbf{X}]^T +E[\mathbf{X}]E[\mathbf{X}]^T = E[\mathbf{X}\mathbf{X}^T] -E[\mathbf{X}]E[\mathbf{X}]^T$