¿Puede el estimador de máxima verosimilitud depender de la parametrización?

Aug 17 2020

Es decir, digamos que tengo una distribución con parámetro $\theta$.

Si lo reescribo con un parámetro $a$ tal que $a^3=\theta$, ¿es posible que al hacer una estimación de máxima verosimilitud en un $\hat a$ tal que $\hat a^3 \neq \hat \theta$?

¿Podría ser el caso de otra función diferente a $x^3$?

Si es así, ¿cuáles son algunos criterios para elegir una parametrización?

Respuestas

7 StatsStudent Aug 17 2020 at 07:22

La propiedad de invarianza de los estimadores de máxima verosimilitud (MLE) dice, si $\hat{\theta}$ es el MLE de $\theta$, luego para cualquier función $\tau(\theta)$ el MLE de $\tau(\theta)$ es $\tau(\hat{\theta})$.

Entonces, si defines $a^3=\theta$, una vez que obtuvo su MLE para $\theta$, $\hat{\theta}$, puede aplicar la función inversa tomando la raíz al cubo de $\hat{\theta}$ y obtener el MLE de $a$ (es decir $\hat{a}=\hat{\theta}^{1\over{3}}$)

Actualizar:

Agregué la prueba mencionada por Thomas Lumley en los comentarios:

Dejar $\hat{\eta}$ denotar el valor que maximiza $L^*(\eta|\textbf{x})$. Debemos demostrar que$L^*(\hat{\eta}|\textbf{x})$=$L^*(\tau(\hat{\theta})|\textbf{x})$. Los máximos de$L$ y $L^*$ coincidir, entonces tenemos

\ begin {eqnarray *} L ^ {*} (\ hat {\ eta} | \ textbf {x}) & = & \ underset {\ eta} {\ text {sup}} \ underset {\ {\ theta: \ tau (\ theta) = \ eta \}} {\ text {sup}} \, L (\ theta | \ textbf {x}) \\ & = & \ underset {\ theta} {\ text {sup}} L (\ theta | \ textbf {x}) \\ & = & L (\ hat {\ theta} | \ textbf {x}), \ end {eqnarray *}

La primera y la tercera igualdad se mantienen por definición de $L^{*}$ y $\hat{\theta}$ respectivamente, y la segunda igualdad se mantiene porque la maximización iterada es igual a la maximización incondicional sobre $\theta$, obtenido en $\hat{\theta}$. Más lejos,

\ begin {eqnarray *} L (\ hat {\ theta} | \ textbf {x}) & = & \ underset {\ {\ theta: \ tau (\ theta) = \ tau (\ hat {\ theta}) \ }} {\ text {sup}} L (\ theta | \ textbf {x}) \\ & = & L ^ {*} \ left [\ tau (\ hat {\ theta}) | \ textbf {x} \ derecho]. \ end {eqnarray *}

Por tanto, la cadena de igualdades muestra que $L^{*}(\hat{\eta}|\textbf{x})=L^{*}\left[\tau(\hat{\theta})|\textbf{x}\right]$ y eso $\tau(\hat{\theta})$ es el MLE de $\tau(\theta)$. $\blacksquare$