모멘트 방법, MLE 및 정보 매트릭스

Dec 13 2020

우리는 $$\mathbb{E}[Y_i| X_i] = β_0 + β_1X_i$$

이 모델에 대한 모멘트 추정기 및 MLE 방법은 무엇입니까?

답변

2 Duck Dec 14 2020 at 03:28

이제 점수 기능이 있습니다.

$$U =\begin{pmatrix} \frac{\partial log(L(β_0, β_1, σ^2)}{\partial \beta_0} \\ \frac{\partial log(L(β_0, β_1, σ^2)}{\partial \beta_1}\\ \frac{\partial log(L(β_0, β_1, σ^2)}{\partial \sigma^2}\\ \end{pmatrix}$$

정보 매트릭스를 계산해야합니다. $I$ 이런 식으로 도함수를 계산 $U$:

$$I =\begin{pmatrix} \frac{\partial log(L(β_0, β_1, σ^2)}{\partial^2 \beta_0} &.&. \\ \frac{\partial log(L(β_0, β_1, σ^2)}{\partial \beta_1\beta_0}&\frac{\partial log(L(β_0, β_1, σ^2)}{\partial^2 \beta_1}&.\\ \frac{\partial log(L(β_0, β_1, σ^2)}{\partial \sigma^2\beta_0}& \frac{\partial log(L(β_0, β_1, σ^2)}{\partial \sigma^2\beta_1}&\frac{\partial log(L(β_0, β_1, σ^2)}{\partial^2 \sigma^2}\\ \end{pmatrix}$$

점은 위쪽과 아래쪽 대각선이 같으므로 대칭과 관련이 있습니다. 수학을 마치면 다음과 같이 끝납니다.

$$I=\begin{pmatrix} -\frac{n}{\sigma^2} &.&. \\ -\frac{\sum_{i=1}^{n}x_i}{\sigma^2}&-\frac{\sum_{i=1}^{n}x_i^2}{\sigma^2}&.\\ -\frac{2}{\sigma^3}\sum_{i=1}^{n}(Y_i − β_0 − β_1x_i)& -\frac{2}{\sigma^3}\sum_{i=1}^{n}x_i(Y_i-\beta_0-\beta_1x_i)&\frac{n}{\sigma^3}-\frac{2}{\sigma^{5}}\sum_{i=1}^{n}(Y_i − β_0 − β_1x_i)^2=0\\ \end{pmatrix}$$

정보 매트릭스입니다.