Kann der Maximum-Likelihood-Schätzer von der Parametrisierung abhängen?

Aug 17 2020

Das heißt, ich habe eine Verteilung mit Parameter $\theta$.

Wenn ich es mit einem Parameter neu schreibe $a$ so dass $a^3=\theta$Ist es möglich, dass eine Maximum-Likelihood-Schätzung für a eine Schätzung ergibt? $\hat a$ so dass $\hat a^3 \neq \hat \theta$?

Könnte es bei einer anderen Funktion als der Fall sein? $x^3$?

Wenn ja, nach welchen Kriterien wird eine Parametrisierung ausgewählt?

Antworten

7 StatsStudent Aug 17 2020 at 07:22

Die Invarianzeigenschaft von Maximum Likelihood Estimators (MLEs) besagt, ob $\hat{\theta}$ ist die MLE von $\theta$, dann für jede Funktion $\tau(\theta)$ die MLE von $\tau(\theta)$ ist $\tau(\hat{\theta})$.

Also, wenn Sie definieren $a^3=\theta$, sobald Sie Ihre MLE für erhalten haben $\theta$, $\hat{\theta}$können Sie die Umkehrfunktion anwenden, indem Sie die Würfelwurzel von nehmen $\hat{\theta}$ und erhalten die MLE von $a$ (dh $\hat{a}=\hat{\theta}^{1\over{3}}$)

Aktualisieren:

Ich habe den von Thomas Lumley erwähnten Beweis in den Kommentaren hinzugefügt:

Lassen $\hat{\eta}$ bezeichnen den Wert, der maximiert wird $L^*(\eta|\textbf{x})$. Das müssen wir zeigen$L^*(\hat{\eta}|\textbf{x})$=$L^*(\tau(\hat{\theta})|\textbf{x})$. Die Maxima von$L$ und $L^*$ fallen zusammen, so haben wir

\ begin {eqnarray *} L ^ {*} (\ hat {\ eta} | \ textbf {x}) & = & \ underset {\ eta} {\ text {sup}} \ underset {\ {\ theta: \ tau (\ theta) = \ eta \}} {\ text {sup}} \, L (\ theta | \ textbf {x}) \\ & = & \ underset {\ theta} {\ text {sup}} L. (\ theta | \ textbf {x}) \\ & = & L (\ hat {\ theta} | \ textbf {x}), \ end {eqnarray *}

Die erste und dritte Gleichheit gelten per Definition von $L^{*}$ und $\hat{\theta}$ und die zweite Gleichheit gilt, weil die iterierte Maximierung gleich der bedingungslosen Maximierung über ist $\theta$erhalten bei $\hat{\theta}$. Des Weiteren,

\ begin {eqnarray *} L (\ hat {\ theta} | \ textbf {x}) & = & \ underset {\ {\ theta: \ tau (\ theta) = \ tau (\ hat {\ theta}) \ }} {\ text {sup}} L (\ theta | \ textbf {x}) \\ & = & L ^ {*} \ left [\ tau (\ hat {\ theta}) | \ textbf {x} \ richtig]. \ end {eqnarray *}

Daher zeigt die Gleichheitsfolge, dass $L^{*}(\hat{\eta}|\textbf{x})=L^{*}\left[\tau(\hat{\theta})|\textbf{x}\right]$ und das $\tau(\hat{\theta})$ ist die MLE von $\tau(\theta)$. $\blacksquare$