chuẩn tiệm cận cho MLE

Question

Giả sử theo các giả định phù hợp, $$[I(\theta_0)]^{1/2}(\hat{\theta} - \theta) \xrightarrow{d} N(0, I_p),$$ Ở đâu $\hat{\theta}$ là công cụ ước tính khả năng tối đa của $\theta$. $I(\theta_0) = I(\theta)|_{\theta=\theta_0}$ và $I(\theta)$ là thông tin cá của phân phối mẫu.

Ghi chú của lớp tôi nói rằng "$I(\theta_0)$ có thể được thay thế bởi $I(\hat{\theta}_0)$, được chứng minh bởi định lý Slutsky ”.

Câu hỏi của tôi là tại sao định lý Slutsky lại chứng minh cho nó $$[I(\hat{\theta})]^{1/2}(\hat{\theta} - \theta) \xrightarrow{d} N(0, I_p)$$ đúng?

Hay chúng ta phải giả định rằng $\hat{\theta}$ hội tụ với $\theta$ trong xác suất?

Answer 1

Theo định lý Slutsky , nếu$X_n\overset{d}{\to}X$ và $Y_n\overset{p}{\to}c$, Ở đâu $c$ là một thuật ngữ không đổi, sau đó $X_nY_n\overset{d}{\to}X c$. Do đó, nếu

• $[I_n(\theta)]^{1/2}(\hat{\theta}_n - \theta) \xrightarrow{d} N(0, I_p)$ như $n\to\infty$,
• $[I_n(\hat\theta_n)]^{1/2}/[I_n(\theta)]^{1/2}\overset{p}{\to}1$ như $n\to\infty$,

Ở đâu $\theta$ là tham số không xác định, $n$ là kích thước mẫu và $\hat\theta_n$ là một chuỗi các công cụ ước tính ML, sau đó $$\frac{[I_n(\hat\theta_n)]^{1/2}}{[I_n(\theta)]^{1/2}}[I_n(\theta)]^{1/2}(\hat{\theta}_n - \theta) =[I_n(\hat\theta_n)]^{1/2}(\hat{\theta}_n - \theta)\overset{d}{\to} N(0,I_p)$$

Điều này có nghĩa là, khi $n$ đủ lớn, phân bố lấy mẫu của MLE là gần như bình thường.

Answer 2

Bạn có thể cho thấy điều đó nếu $[I(θ_0)]^{1/2}(\hat{θ}−θ_0)\overset{d}{\longrightarrow} N(0, I_p)$, sau đó $\hat{\theta}\overset{P}{\longrightarrow} \theta_0$, vì vậy bạn không cần giả định này.