Joint Entropy 폐쇄 형 분석 솔루션

Question

단일 가우스 확률 변수의 미분 엔트로피 는 다음과 같습니다.

$$H(X) = \frac{1}{2} \ln (2\pi e \sigma^2)$$

다음의 폐쇄 형태 분석 솔루션 무엇 공동 엔트로피 ,$H(X,Y)$?

Answer 1

허락하다 $(X, Y) \sim \mathcal{N}(0, K),$ 어디 $$ K=\left[\begin{array}{cc} \sigma^{2} & \rho \sigma^{2} \\ \rho \sigma^{2} & \sigma^{2} \end{array}\right] $$ 그러면 미분 엔트로피 는$$h(X)=h(Y)=\frac{1}{2} \log (2 \pi e) \sigma^{2}$$와 공동 엔트로피 입니다

\ begin {align} h (X, Y) & = \ frac {1} {2} \ log (2 \ pi e) ^ {2} | K | \\ & = \ frac {1} {2} \ log (2 \ pi e) ^ {2} \ sigma ^ {4} \ left (1- \ rho ^ {2} \ right) \ end {align}