ตัวประมาณความเป็นไปได้สูงสุดสามารถขึ้นอยู่กับพารามิเตอร์ได้หรือไม่?

Aug 17 2020

กล่าวคือฉันมีการแจกแจงพร้อมพารามิเตอร์ $\theta$.

ถ้าฉันเขียนใหม่โดยใช้พารามิเตอร์ $a$ ดังนั้น $a^3=\theta$เป็นไปได้ไหมว่าการประเมินความเป็นไปได้สูงสุดบน a จะให้ผลโดยประมาณ $\hat a$ ดังนั้น $\hat a^3 \neq \hat \theta$เหรอ?

อาจเป็นกรณีสำหรับฟังก์ชันอื่นที่แตกต่างจาก $x^3$เหรอ?

ถ้าเป็นเช่นนั้นมีเกณฑ์อะไรบ้างในการเลือกพาราเมตริเซชั่น?

คำตอบ

7 StatsStudent Aug 17 2020 at 07:22

คุณสมบัติความไม่คงเส้นคงวาของเครื่องมือประมาณการความเป็นไปได้สูงสุด (MLEs) กล่าวว่าถ้า $\hat{\theta}$ คือ MLE ของ $\theta$จากนั้นสำหรับฟังก์ชันใด ๆ $\tau(\theta)$ MLE ของ $\tau(\theta)$ คือ $\tau(\hat{\theta})$.

ดังนั้นถ้าคุณกำหนด $a^3=\theta$เมื่อคุณได้รับ MLE สำหรับ $\theta$, $\hat{\theta}$คุณสามารถใช้ฟังก์ชันผกผันได้โดยใช้รากที่เป็นลูกบาศก์ของ $\hat{\theta}$ และรับ MLE ของ $a$ (กล่าวคือ $\hat{a}=\hat{\theta}^{1\over{3}}$)

อัปเดต:

ฉันได้เพิ่มหลักฐานที่กล่าวถึงโดย Thomas Lumley ในความคิดเห็น:

ปล่อย $\hat{\eta}$ แสดงถึงค่าที่เพิ่มสูงสุด $L^*(\eta|\textbf{x})$. เราต้องแสดงสิ่งนั้น$L^*(\hat{\eta}|\textbf{x})$=$L^*(\tau(\hat{\theta})|\textbf{x})$. สูงสุดของ$L$ และ $L^*$ บังเอิญเรามี

\ start {eqnarray *} L ^ {*} (\ hat {\ eta} | \ textbf {x}) & = & \ underset {\ eta} {\ text {sup}} \ underset {\ {\ theta: \ tau (\ theta) = \ eta \}} {\ text {sup}} \, L (\ theta | \ textbf {x}) \\ & = & \ underset {\ theta} {\ text {sup}} L (\ theta | \ textbf {x}) \\ & = & L (\ hat {\ theta} | \ textbf {x}), \ end {eqnarray *}

ความเท่าเทียมกันที่หนึ่งและสามถือตามคำจำกัดความของ $L^{*}$ และ $\hat{\theta}$ ตามลำดับและความเท่าเทียมกันที่สองถือเนื่องจากการขยายใหญ่สุดซ้ำแล้วซ้ำอีกเท่ากับการขยายใหญ่สุดที่ไม่มีเงื่อนไข $\theta$ได้ที่ $\hat{\theta}$. นอกจากนี้

\ start {eqnarray *} L (\ hat {\ theta} | \ textbf {x}) & = & \ underset {\ {\ theta: \ tau (\ theta) = \ tau (\ hat {\ theta}) \ }} {\ text {sup}} L (\ theta | \ textbf {x}) \\ & = & L ^ {*} \ left [\ tau (\ hat {\ theta}) | \ textbf {x} \ ขวา]. \ จบ {eqnarray *}

ดังนั้นสตริงของความเท่าเทียมกันจึงแสดงให้เห็นว่า $L^{*}(\hat{\eta}|\textbf{x})=L^{*}\left[\tau(\hat{\theta})|\textbf{x}\right]$ และนั่น $\tau(\hat{\theta})$ คือ MLE ของ $\tau(\theta)$. $\blacksquare$