MLE에 대한 점근 정규성

Aug 18 2020

적절한 가정하에 $$[I(\theta_0)]^{1/2}(\hat{\theta} - \theta) \xrightarrow{d} N(0, I_p),$$ 어디 $\hat{\theta}$ 최대 가능성 추정량 $\theta$. $I(\theta_0) = I(\theta)|_{\theta=\theta_0}$$I(\theta)$ 표본 분포의 어부 정보입니다.

내 수업 노트에 "$I(\theta_0)$ 대체 가능 $I(\hat{\theta}_0)$, Slutsky의 정리에 의해 정당화 됨 ".

내 질문은 왜 Slutsky의 정리가 그것을 정당화하는지입니다. $$[I(\hat{\theta})]^{1/2}(\hat{\theta} - \theta) \xrightarrow{d} N(0, I_p)$$ 맞다?

아니면 우리는 $\hat{\theta}$ 수렴 $\theta$ 확률 적으로?

답변

1 Sergio Aug 18 2020 at 22:51

으로 Slutsky의 정리 , 경우$X_n\overset{d}{\to}X$$Y_n\overset{p}{\to}c$, 어디 $c$ 상수 용어입니다. $X_nY_n\overset{d}{\to}X c$. 그래서 만약

  • $[I_n(\theta)]^{1/2}(\hat{\theta}_n - \theta) \xrightarrow{d} N(0, I_p)$ 같이 $n\to\infty$,
  • $[I_n(\hat\theta_n)]^{1/2}/[I_n(\theta)]^{1/2}\overset{p}{\to}1$ 같이 $n\to\infty$,

어디 $\theta$ 알 수없는 매개 변수입니다. $n$ 샘플 크기이고 $\hat\theta_n$ 일련의 ML 추정기입니다. $$\frac{[I_n(\hat\theta_n)]^{1/2}}{[I_n(\theta)]^{1/2}}[I_n(\theta)]^{1/2}(\hat{\theta}_n - \theta) =[I_n(\hat\theta_n)]^{1/2}(\hat{\theta}_n - \theta)\overset{d}{\to} N(0,I_p)$$

이것은 $n$ 충분히 크면 MLE의 샘플링 분포는 거의 정규 분포를 따릅니다.

1 Pohoua Aug 18 2020 at 15:55

당신은 $[I(θ_0)]^{1/2}(\hat{θ}−θ_0)\overset{d}{\longrightarrow} N(0, I_p)$, 다음 $\hat{\theta}\overset{P}{\longrightarrow} \theta_0$이므로이 가정이 필요하지 않습니다.