有界空間と非有界空間の均一な後方
この答えによると：
ここにあるように、境界のある空間の平らな後部に問題はありません。あなたはただ平らなものよりも広がっている事前のものから始めなければなりません。あなたが持つことができないのは、それが適切な分布ではないので、境界のない空間の平らな後部です。
境界のない空間での平らな後方が受け入れられない理由と、それが境界のある空間とどのように異なるのかについて、誰かが詳しく説明できるかどうか疑問に思いました。後者の例は、ディリクレ分布です。$\mathcal{D}irichlet(\alpha_1,\dots,\alpha_n)$ どこ $\alpha_1 = \alpha_2=\dots=\alpha_n=1$。
回答
境界のない空間で平坦な（均一な）確率分布を持つことは不可能であるため、特に、平坦な事後分布を持つことは不可能です。
実数直線全体で均一な確率密度がある場合は、関数が必要になります $f(x)$これは1に統合されますが（確率密度になるため）、一定でした。それは不可能です。定数関数は0または無限大に積分されます。
同様に、整数の無限セットに一様分布がある場合は、確率質量関数が必要になります。 $p(n)$ すべての人に平等になる $n$そして1に追加します。それはできません。もし$p(n)$ すべてに等しい $n$ ゼロまたは無限大に追加する必要があります。
同様の問題は、分布が「フラット」であると話すことが意味のある、より複雑なスペースでも発生します。
有界有限次元空間では、1に積分される定数関数を持つことができるため、確率分布は平坦になります。たとえば、ディリクレ分布は次のように定義されます。$n$-面積のある次元の三角形 $$\mathrm{B}(\boldsymbol{\alpha})=\frac{\prod_{i=1}^{K} \Gamma\left(\alpha_{i}\right)}{\Gamma\left(\sum_{i=1}^{K} \alpha_{i}\right)}$$ したがって、定数関数には有限の積分があり、関数は $$f(\boldsymbol{\alpha})=1/B(\boldsymbol{\alpha})$$ ニュージーランドのロトの確率分布は、1から40までの値を持つ6つの数値シーケンスのセット全体であるため、それらの数は有限であり、それぞれに等しい確率を設定できます（$p(x)=1/3838380$）そしてそれを合計して1にします。
したがって、それを考えると、本当の問題は、フラットな事前分布がどのように意味をなすかということです。多くの場合、前の密度の代わりに定数関数をベイズの定理に入れて、後部として本物の分布を得ることができます。したがって、そのようなものがなくても、その事後確率を「フラット事前確率」に属すると考えるのは理にかなっています。また、「フラット事前確率」が存在する場合に得られる事後確率は、本物の事前確率がますます広がる場合に得られる事後確率の制限と同じであることがよくあります[これが常にであるかどうかはわかりません真またはしばしば真]。だから、例えば、あなたが持っているなら$X_m\sim N(\mu,1)$ データと $\mu\sim N(0,\omega^2)$ 前に、後部は平均で正規です $$\frac{n\bar X_n}{n+\omega^{-2}}$$ と分散 $1/(n+\omega^{-2})$。あなたがさせれば$\omega$ 増加すると、前者はますます広がり、後部はますます近くなります $N(\bar X, 1/n)$、これは「フラット事前確率」で得られるものでもあります。
ただし、「フラット事前分布」を使用しても、事後分布の真の確率分布が得られない場合があります。その場合、実際には意味がありません。
厳密に言えば、参照尺度が指定されていないという点で、質問は不正確です。参照メジャーが$\text{d}\mu(x)=e^{-x^2}\text{d}\lambda(x)$ どこ $\lambda$ はルベーグ測度であり、密度が平坦な後部が有効です。
ただし、「フラット事前確率」を使用するということは、ルベーグ測度に関して一定の密度を持つことを意味すると仮定すると、トーマスラムリーの答えは、ベイズ推定がそのような「事後」では不可能である理由を明確に説明しています。これは確率密度ではないため、事後は単純に定義されていません。空間全体の事後質量は無限大であるため、事後期待値または事後確率を計算する方法はありません。無限のボリュームを持つパラメータ空間は、このような後部の下では推測できません。より一般的には、無限大への事後積分は、これを確率密度に変換できないのとまったく同じ理由で、ベイズ推定には受け入れられません。
傍注として、および以前のX検証済みエントリで説明したように、以前の最大エントロピー$$\arg_p \max \int p(x) \log p(x) \text{d}\lambda(x)$$ 支配的な尺度の観点から定義されています $\text{d}\lambda$。連続空間には、エントロピーの絶対的または一意の測定値はありません。