Obtener la función de probabilidad logarítmica correcta

Question

$X_1, ..., X_n$ es una muestra aleatoria de una población con pdf dado por

$$ f(x; \mu, \lambda) = \frac{\lambda}{2}\operatorname{exp}(- \lambda |x - \mu|) $$

dónde $\mu \in \mathbb{R}$ es el parámetro de ubicación, y $\lambda > 0$ es el parámetro de escala.

Estoy tratando de obtener la función de log-likehood para este problema. Yo tengo,

$$ L(\mu, \lambda; \mathbf{x}) = \prod_{i=1}^{n} f(x_i; \mu, \lambda) = \prod_{i=1}^{n} \frac{\lambda}{2}\operatorname{exp}(- \lambda |x - \mu|) = \frac{\lambda^n}{2^n}\operatorname{exp}\Bigl(- \lambda \sum_{i=1}^{n} |x - \mu|\Bigr). $$

Dejar $ \ell(\mu, \lambda; \mathbf{x}) = \text{log}[L(\mu, \lambda; \mathbf{x})] $. Entonces tenemos

$$ \ell(\mu, \lambda; \mathbf{x}) = n\text{log}(\lambda/2) - \lambda \sum_{i=1}^{n} |x - \mu|. $$

¿Es esta la forma correcta de la muestra de probabilidad logarítmica? Porque si lo es ... entonces tratar de maximizarlo da como resultado un determinante hessiano que es negativo, incluso antes de la evaluación en el punto crítico.

---

Suponiendo que la función log-likehood sea correcta, obtendría:

$$ \frac{\partial}{\partial \mu} \ell(\mu, \lambda; \mathbf{x}) = \lambda \sum_{i=1}^{n} \frac{x_i - \mu}{|x_i - \mu|} $$

$$ \frac{\partial}{\partial \lambda} \ell(\mu, \lambda; \mathbf{x}) = \frac{n}{\lambda} - \sum_{i=1}^{n} |x_i - \mu| $$

$$ \frac{\partial^2}{\partial \lambda^2} \ell(\mu, \lambda; \mathbf{x}) = \frac{-n}{\lambda^2}. $$

$$ \frac{\partial^2}{\partial \mu^2} \ell(\mu, \lambda; \mathbf{x}) = 0. $$

$$ \frac{\partial^2}{\partial\lambda \partial \mu} \ell(\mu, \lambda; \mathbf{x}) = \frac{\partial^2}{\partial\mu \partial \lambda} \ell(\mu, \lambda; \mathbf{x}) = \sum_{i=1}^{n} \frac{x_i - \mu}{|x_i - \mu|}. $$

También obtuve el (único) punto crítico $ (\mu, \lambda) = (\bar{x}, n/\sum_{i=1}^{n} |x_i - \mu|) $. Con esta información obtendrías$\text{det}(Hessian) < 0 \Rightarrow $punto de silla de montar. Entonces hay algo mal.

Answer 1

La probabilidad mínima es correcta. Tu problema son las derivadas.

La loglikelihood no es diferenciable con respecto a $\mu$ dónde $\mu=x_i$(y en particular, no en el MLE). La segunda derivada con respecto a$\mu$es cero en todos los lugares donde se define. Así que no puedes simplemente hacer cálculo.

Para cualquier fijo $\lambda$, la verosimilitud es lineal por partes (y cóncava) en $\mu$con esquinas en las observaciones, por lo que hay un máximo (y no hay otros puntos estacionarios) y el máximo debe estar en una observación. Es bastante fácil asegurarse de que el máximo está en la mediana si$n$ es impar y en todo el intervalo mediano si $n$incluso. Eso es cierto para cada fijo$\lambda$ por lo que debe ser cierto para variar $\lambda$ también.

Ahora, arreglando $\mu$ en el MLE tiene un problema de un parámetro diferenciable en $\lambda$. Resolviendo$$\frac{\partial}{\partial \lambda} \ell(\hat\mu, \lambda ; \mathbf{x})=\frac{n}{\lambda}-\sum_{i=1}^{n}\left|x_{i}-\hat\mu\right|$$ te dio $\hat\lambda$como la desviación absoluta media de la mediana como el único punto estacionario. Luego puede verificar la segunda derivada wrt$\theta$para asegurarse de que sea el máximo. O puede argumentar que el máximo debe estar allí o en los puntos finales$\lambda=0$ o $\lambda=\infty$, y no es ninguno de esos.