बाउंडेड स्पेस बनाम अनबाउंड स्पेस पर यूनिफ़ॉर्म पोस्टीरियर

Aug 16 2020

इस उत्तर के अनुसार :

यहाँ के रूप में एक बंधे स्थान पर एक फ्लैट के साथ कोई समस्या नहीं है। आपको बस एक पूर्व के साथ शुरू करना है जो कि एक फ्लैट से अधिक फैला हुआ है। जो आपके पास नहीं हो सकता है, वह एक खाली जगह पर एक फ्लैट है, क्योंकि यह एक उचित वितरण नहीं है।

मैं सोच रहा था कि क्या कोई (यदि और) उस पर विस्तार कर सकता है कि एक बिना स्थान के फ्लैट क्यों स्वीकार्य नहीं है और यह कैसे बंधी हुई जगह के साथ अलग है। उत्तरार्द्ध के लिए एक उदाहरण एक डिरिचलेट वितरण है$\mathcal{D}irichlet(\alpha_1,\dots,\alpha_n)$ कहाँ पे $\alpha_1 = \alpha_2=\dots=\alpha_n=1$

जवाब

13 ThomasLumley Aug 16 2020 at 10:49

एक अनबिके स्थान पर एक फ्लैट (समान) संभाव्यता वितरण होना संभव नहीं है, इसलिए विशेष रूप से एक फ्लैट पोस्टीरियर वितरण होना संभव नहीं है।

यदि आपके पास संपूर्ण वास्तविक रेखा पर एक समान संभावना घनत्व है, तो आपको एक फ़ंक्शन की आवश्यकता होगी $f(x)$1 (एक संभावना घनत्व होने के लिए) को एकीकृत किया गया था लेकिन स्थिर था। यह संभव नहीं है: कोई भी स्थिर फ़ंक्शन 0 या अनंत से एकीकृत होता है।

इसी तरह, यदि आपके पास पूर्णांकों के अनंत सेट पर एक समान वितरण था, तो आपको प्रायिकता मास फ़ंक्शन की आवश्यकता होगी $p(n)$ सभी के लिए समान होना $n$और 1 में जोड़ें। यह नहीं हो सकता; अगर$p(n)$ सभी के लिए बराबर है $n$ इसे शून्य या अनंत में जोड़ना होगा।

अधिक जटिल रिक्त स्थान के लिए एनालॉग समस्याएं होती हैं, जहां वितरण के बारे में बात करना सार्थक होता है 'फ्लैट'।

एक बंधे हुए परिमित-आयामी स्थान पर, एक स्थिर फ़ंक्शन होना संभव है जो 1 से एकीकृत होता है, और इसलिए एक संभावना वितरण सपाट हो सकता है। उदाहरण के लिए, डिरिचलेट वितरण ए पर परिभाषित किया गया है$n$क्षेत्र के साथ आयामी त्रिकोण $$\mathrm{B}(\boldsymbol{\alpha})=\frac{\prod_{i=1}^{K} \Gamma\left(\alpha_{i}\right)}{\Gamma\left(\sum_{i=1}^{K} \alpha_{i}\right)}$$ इसलिए किसी भी स्थिर फ़ंक्शन में परिमित और एक फ़ंक्शन होता है $$f(\boldsymbol{\alpha})=1/B(\boldsymbol{\alpha})$$ 1 से एकीकृत। न्यूजीलैंड लोट्टो के लिए संभावना वितरण 1 से 40 तक के मूल्यों के साथ छह-संख्या अनुक्रमों के सेट पर है, इसलिए उनमें से केवल बहुत से हैं, और आप प्रत्येक पर समान संभावना डाल सकते हैं ($p(x)=1/3838380$) और इसे 1 तक जोड़ें।

तो, यह देखते हुए, असली सवाल यह है कि पूर्व वितरण कितना सपाट है। यह पता चला है कि आप अक्सर पूर्व घनत्व के स्थान पर बेयस नियम में एक निरंतर कार्य कर सकते हैं और पीछे के रूप में एक वास्तविक वितरण प्राप्त कर सकते हैं। यह समझ में आता है, फिर भी, एक 'पूर्व फ्लैट' से संबंधित के रूप में कि इस तरह की कोई बात नहीं है। इसके अलावा, जब आप एक 'फ्लैट से पहले' के लिए मिलते हैं, जब एक होता है, तो अक्सर वही होता है जिसकी सीमा आपको उन पोस्टरों की अधिक से अधिक वास्तविक पादरियों से मिलती है [मुझे नहीं पता कि यह हमेशा होता है सच या अक्सर सच है]। इसलिए, उदाहरण के लिए, यदि आपके पास है$X_m\sim N(\mu,1)$ डेटा और ए $\mu\sim N(0,\omega^2)$ इससे पहले, पश्च मीन सामान्य है $$\frac{n\bar X_n}{n+\omega^{-2}}$$ और विचरण $1/(n+\omega^{-2})$। अगर आप दें$\omega$ वृद्धि, पूर्व अधिक से अधिक फैलता है और पीछे की ओर करीब और करीब हो जाता है $N(\bar X, 1/n)$है, जो भी आप एक 'फ्लैट पूर्व' के साथ मिल जाएगा।

कभी-कभी, हालांकि, एक 'फ्लैट पूर्व' का उपयोग करने से पीछे के लिए एक वास्तविक संभावना वितरण नहीं होता है, जिस स्थिति में यह वास्तव में समझ में नहीं आता है।

8 Xi'an Aug 16 2020 at 12:40

कड़ाई से बोलते हुए, सवाल यह है कि यह संदर्भ उपाय को निर्दिष्ट नहीं करता है। यदि संदर्भ माप है$\text{d}\mu(x)=e^{-x^2}\text{d}\lambda(x)$ कहाँ पे $\lambda$ Lebesgue माप है, एक फ्लैट घनत्व के साथ एक पश्च वैध है।

हालांकि, "फ्लैट पूर्व" का उपयोग करने का अर्थ है कि लेबेस्ग माप के संबंध में एक निरंतर घनत्व है, थॉमस लुमली का जवाब स्पष्ट रूप से बताता है कि इस तरह के "पोस्टीरियर" के साथ बेयसियन इंजेक्शन असंभव क्यों है। यह एक संभाव्यता घनत्व नहीं है और इसलिए पोस्टीरियर को केवल परिभाषित नहीं किया गया है। अनंत में पूरे स्थान के पीछे के द्रव्यमान के बाद से पीछे की अपेक्षाओं या यहां तक ​​कि संभावित संभावनाओं की गणना करने का कोई तरीका नहीं है। अनंत आयतन वाले किसी भी पैरामीटर स्पेस को इस तरह पीछे नहीं खिसकाया जा सकता है। अधिक आम तौर पर अनंत के लिए कोई भी पश्चवर्ती एकीकरण बहुत समान कारण के लिए बायेसियन निष्कर्ष के लिए स्वीकार्य नहीं है कि इसे एक संभावना घनत्व में नहीं बदला जा सकता है।

सीमांत के रूप में , और जैसा कि पहले एक्स मान्य प्रविष्टि में चर्चा की गई थी , अधिकतम एन्ट्रापी पूर्व$$\arg_p \max \int p(x) \log p(x) \text{d}\lambda(x)$$ एक हावी उपाय के रूप में परिभाषित किया गया है $\text{d}\lambda$। निरंतर स्थानों में एन्ट्रॉपी का कोई पूर्ण या अद्वितीय उपाय नहीं है।