Doğru Log-olabilirlik işlevini elde etme

Question

$X_1, ..., X_n$ pdf ile bir popülasyondan rastgele bir örnektir.

$$ f(x; \mu, \lambda) = \frac{\lambda}{2}\operatorname{exp}(- \lambda |x - \mu|) $$

nerede $\mu \in \mathbb{R}$ konum parametresidir ve $\lambda > 0$ ölçek parametresidir.

Bu soruna günlük benzeri işlevi elde etmeye çalışıyorum. Sahibim,

$$ L(\mu, \lambda; \mathbf{x}) = \prod_{i=1}^{n} f(x_i; \mu, \lambda) = \prod_{i=1}^{n} \frac{\lambda}{2}\operatorname{exp}(- \lambda |x - \mu|) = \frac{\lambda^n}{2^n}\operatorname{exp}\Bigl(- \lambda \sum_{i=1}^{n} |x - \mu|\Bigr). $$

İzin Vermek $ \ell(\mu, \lambda; \mathbf{x}) = \text{log}[L(\mu, \lambda; \mathbf{x})] $. O zaman bizde

$$ \ell(\mu, \lambda; \mathbf{x}) = n\text{log}(\lambda/2) - \lambda \sum_{i=1}^{n} |x - \mu|. $$

Bu, örnek günlük olabilirliğinin doğru biçimi mi? Çünkü eğer öyleyse ... onu maksimize etmeye çalışmak, kritik noktada değerlendirmeden önce bile olumsuz olan bir Hessian determinantı ile sonuçlanır.

---

Günlük benzerliği işlevinin doğru olduğunu varsayarsak, şunu elde edersiniz:

$$ \frac{\partial}{\partial \mu} \ell(\mu, \lambda; \mathbf{x}) = \lambda \sum_{i=1}^{n} \frac{x_i - \mu}{|x_i - \mu|} $$

$$ \frac{\partial}{\partial \lambda} \ell(\mu, \lambda; \mathbf{x}) = \frac{n}{\lambda} - \sum_{i=1}^{n} |x_i - \mu| $$

$$ \frac{\partial^2}{\partial \lambda^2} \ell(\mu, \lambda; \mathbf{x}) = \frac{-n}{\lambda^2}. $$

$$ \frac{\partial^2}{\partial \mu^2} \ell(\mu, \lambda; \mathbf{x}) = 0. $$

$$ \frac{\partial^2}{\partial\lambda \partial \mu} \ell(\mu, \lambda; \mathbf{x}) = \frac{\partial^2}{\partial\mu \partial \lambda} \ell(\mu, \lambda; \mathbf{x}) = \sum_{i=1}^{n} \frac{x_i - \mu}{|x_i - \mu|}. $$

Ayrıca (tek) kritik noktayı aldım $ (\mu, \lambda) = (\bar{x}, n/\sum_{i=1}^{n} |x_i - \mu|) $. Bu bilgilerle alacaksın$\text{det}(Hessian) < 0 \Rightarrow $Eyer noktası. Yani bir terslik var.

Answer 1

Mantık olasılığı doğrudur. Senin sorunun türevler.

Mantık olasılığı, şunlara göre ayırt edilemez: $\mu$ nerede $\mu=x_i$(ve özellikle MLE'de değil). İle ilgili ikinci türev$\mu$tanımlandığı her yerde sıfırdır. Yani sadece hesap yapamazsınız.

Herhangi bir sabit için $\lambda$, mantık olasılığı, parçalı doğrusaldır (ve içbükeydir) $\mu$gözlemlerde köşeler ile, bu nedenle bir maksimum (ve başka sabit nokta yok) vardır ve maksimum, bir gözlemde olmalıdır. Aşağıdaki durumlarda maksimumun medyanda olduğu konusunda kendinizi tatmin etmek oldukça kolaydır.$n$ tuhaftır ve tüm medyan aralığında eğer $n$eşittir. Bu her sabit için doğru$\lambda$ bu yüzden değişen için doğru olmalı $\lambda$ yanı sıra.

Şimdi düzeltiyorum $\mu$ MLE'de farklılaştırılabilir tek parametreli bir probleminiz var $\lambda$. Çözme$$\frac{\partial}{\partial \lambda} \ell(\hat\mu, \lambda ; \mathbf{x})=\frac{n}{\lambda}-\sum_{i=1}^{n}\left|x_{i}-\hat\mu\right|$$ sana verir $\hat\lambda$tek sabit nokta olarak medyandan ortalama mutlak sapma olarak. Daha sonra ikinci türevi kontrol edebilirsiniz wrt$\theta$maksimum olduğundan emin olmak için. Veya maksimumun orada veya uç noktalarda olması gerektiğini savunabilirsiniz.$\lambda=0$ veya $\lambda=\infty$ve onlardan biri değil.