L'estimateur du maximum de vraisemblance peut-il dépendre de la paramétrisation?

Aug 17 2020

Autrement dit, disons que j'ai une distribution avec paramètre $\theta$.

Si je le réécris avec un paramètre $a$ tel que $a^3=\theta$, est-il possible que l'estimation du maximum de vraisemblance sur a produise une estimation $\hat a$ tel que $\hat a^3 \neq \hat \theta$?

Serait-ce le cas pour une autre fonction différente de $x^3$?

Si oui, quels sont les critères pour choisir une paramétrisation?

Réponses

7 StatsStudent Aug 17 2020 at 07:22

La propriété d'invariance des estimateurs du maximum de vraisemblance (MLE) indique, si $\hat{\theta}$ est le MLE de $\theta$, puis pour toute fonction $\tau(\theta)$ le MLE de $\tau(\theta)$ est $\tau(\hat{\theta})$.

Donc, si vous définissez $a^3=\theta$, une fois que vous avez obtenu votre MLE pour $\theta$, $\hat{\theta}$, vous pouvez appliquer la fonction inverse en prenant la racine cubique de $\hat{\theta}$ et obtenez le MLE de $a$ (c'est à dire $\hat{a}=\hat{\theta}^{1\over{3}}$)

Mettre à jour:

J'ai ajouté la preuve mentionnée par Thomas Lumley dans les commentaires:

Laisser $\hat{\eta}$ dénotez la valeur qui maximise $L^*(\eta|\textbf{x})$. Il faut montrer que$L^*(\hat{\eta}|\textbf{x})$=$L^*(\tau(\hat{\theta})|\textbf{x})$. Les maxima de$L$ et $L^*$ coïncider, donc nous avons

\ begin {eqnarray *} L ^ {*} (\ hat {\ eta} | \ textbf {x}) & = & \ underset {\ eta} {\ text {sup}} \ underset {\ {\ theta: \ tau (\ theta) = \ eta \}} {\ text {sup}} \, L (\ theta | \ textbf {x}) \\ & = & \ underset {\ theta} {\ text {sup}} L (\ theta | \ textbf {x}) \\ & = & L (\ hat {\ theta} | \ textbf {x}), \ end {eqnarray *}

Les première et troisième égalités tiennent par définition $L^{*}$ et $\hat{\theta}$ respectivement, et la deuxième égalité tient parce que la maximisation itérée est égale à la maximisation inconditionnelle sur $\theta$, obtenu à $\hat{\theta}$. Plus loin,

\ begin {eqnarray *} L (\ hat {\ theta} | \ textbf {x}) & = & \ underset {\ {\ theta: \ tau (\ theta) = \ tau (\ hat {\ theta}) \ }} {\ text {sup}} L (\ theta | \ textbf {x}) \\ & = & L ^ {*} \ left [\ tau (\ hat {\ theta}) | \ textbf {x} \ droite]. \ end {eqnarray *}

Par conséquent, la chaîne d'égalités montre que $L^{*}(\hat{\eta}|\textbf{x})=L^{*}\left[\tau(\hat{\theta})|\textbf{x}\right]$ et cela $\tau(\hat{\theta})$ est le MLE de $\tau(\theta)$. $\blacksquare$