Endform der Kovarianzmatrix [geschlossen]

Question

Ich habe dies von der Wikipedia-Seite über Unkorreliertheit erhalten. Wie geht man vom vorletzten zum letzten Begriff, dh

$$K_{\bf XX}=\text{cov}[\bf X,X] =E[(\mathbf{X}-E[\mathbf{X}])(\mathbf{X}-E[\mathbf{X}])^T]= E[\mathbf{XX}^T]-E[\mathbf{X}]E[\bf X]^T$$

Answer 1

$$E[(\mathbf{X}-E[\mathbf{X}])(\mathbf{X}-E[\mathbf{X}])^T]\\ =E[(\mathbf{X}-E[\mathbf{X}])(\mathbf{X}^T-E[\mathbf{X}]^T)]\\ =E[\mathbf{XX}^T-E[\mathbf{X}]\mathbf{X}^T - \mathbf{X}E[\mathbf X]^T+E[\mathbf{X}]E[\mathbf X]^T]\qquad (1)$$ An dieser Stelle, um Cluster von Notation zu vermeiden, bezeichnen $\mu=E[\mathbf X]\implies \mu^T=E[\mathbf X]^T=E[\mathbf X^T]$
das ist eine Konstante ($\underline{\text{expectation of a constant is the constant itself}}$) , so dass unter Verwendung der Linearität der Erwartung ,$$\text{terms with $\ mu$ inside $E [...]$ should simplify as }\ E[ E[\mathbf X] \mathbf X^T]=E[\mu \mathbf X^T]=\mu E[\mathbf X^T]$$ damit $(1)$ vereinfacht als $$\begin{aligned}&E[\mathbf{XX}^T-E[\mathbf{X}]\mathbf{X}^T - \mathbf{X}E[\mathbf X]^T+E[\mathbf{X}]E[\mathbf X]^T]\\ =&E[\mathbf{XX}^T-\mu\mathbf{X}^T - \mathbf{X}\mu^T+\mu\mu^T]\\ =&E[\mathbf{XX}^T]-\mu E[\mathbf X^T]-E[\mathbf X]\mu^T+E[\mu\mu^T]\\ =&E[\mathbf{XX}^T]-\mu\mu^T-\mu\mu^T+\mu\mu^T \ (\text{from underlined fact, } E[\mu\mu^T]=\mu\mu^T)\\ =&E[\mathbf{XX}^T]-2\mu\mu^T+\mu\mu^T\\ =&E[\mathbf{XX}^T]-\mu\mu^T\\ =&E[\mathbf{XX}^T]-E[\mathbf{X}]E[\mathbf{X}]^T\end{aligned}$$

Answer 2

Mittelfristig erweitern:

$E[(\mathbf{X}-E[\mathbf{X}])(\mathbf{X}-E[\mathbf{X}])^T] = E[(\mathbf{X}\mathbf{X}^T -\mathbf{X}E(\mathbf{X})^T - E(\mathbf{X})\mathbf{X}^T + E(\mathbf{X})E(\mathbf{X})^T]$

Der Betreiber $E$ ist linear, so wird dies

$E[\mathbf{X}\mathbf{X}^T] -E[\mathbf{X}]E[\mathbf{X}]^T -E[\mathbf{X}]E[\mathbf{X}]^T +E[\mathbf{X}]E[\mathbf{X}]^T = E[\mathbf{X}\mathbf{X}^T] -E[\mathbf{X}]E[\mathbf{X}]^T$