Joint Entropy geschlossene analytische Lösung

Nov 20 2020

Die Differentialentropie einer einzelnen Gaußschen Zufallsvariablen ist

$$H(X) = \frac{1}{2} \ln (2\pi e \sigma^2)$$

Was ist dann die geschlossene Form analytische Lösung für die gemeinsame Entropie ,$H(X,Y)$?

Antworten

1 develarist Nov 21 2020 at 11:33

Lassen $(X, Y) \sim \mathcal{N}(0, K),$ wo $$ K=\left[\begin{array}{cc} \sigma^{2} & \rho \sigma^{2} \\ \rho \sigma^{2} & \sigma^{2} \end{array}\right] $$ Dann Differential Entropie heißt$$h(X)=h(Y)=\frac{1}{2} \log (2 \pi e) \sigma^{2}$$und gemeinsame Entropie ist

\ begin {align} h (X, Y) & = \ frac {1} {2} \ log (2 \ pi e) ^ {2} | K | \\ & = \ frac {1} {2} \ log (2 \ pi e) ^ {2} \ sigma ^ {4} \ left (1- \ rho ^ {2} \ right) \ end {align}