分類のための確率的生成モデルを理解する問題

Question

私は学生で、機械学習を勉強しています。私は分類のための確率的生成モデルに焦点を合わせていますが、このトピックを理解するのにいくつかの問題があります。

私の教授のスライドには、次のように書かれています。

わかりません。

これまでのところ、生成的確率モデルでは、推定する必要があることを理解しました $P(C_i|x)$、これは階級を持つ確率です $i$ 与えられたデータ $x$、尤度とベイズの定理を使用します。

それで、それはベイズの規則を書くことから始まります、しかしスライドは我々がこれをS状結腸として書くことができると言います、しかしなぜですか？

私がそれに答えようとしなければならないなら、私はシグモイドがからの数を与えるので言うでしょう $0$ に $1$、そして確率ですが、それは私がやっている推測にすぎません。

さらに、ガウス分布を使用できると言って続けています $P(x|C_i)$、 など $P(x|C_i)=N(\mu ,\sigma )$、 など ：

何をしているのかわかりませんが、誰か助けてくれませんか？

質問が明確かどうかわからないので、はっきりしない場合は申し訳ありませんが、本当に混乱しています。lcearでない場合は、編集しようと思います。前もって感謝します。

注：それが役立つ場合は、197ページのビショップの本から引用しています。

Answer 1

私の理解は：

1. 最初の行はOKです-ベイズの定理から派生しています

2. この確率がロジスティック関数に従うと仮定します。つまり、

$$P(C_1|x) = \frac{1}{1+exp(-a)}$$

1. その後、

$$ y = \frac{1}{1+exp(-z)}$$

その後

$$ z = ln(\frac{y}{1-y})$$

（以下のいくつかの行ですが、 $a$ そして $\sigma$）

1. したがって：

$$ a = ln(\frac{P(C_1|x)}{1-P(C_1|x)})$$

1. クラスが2つしかない場合は、 $1-P(C_1|x)= P(C_2|x)$。

2. 次に

$$a = ln(\frac{P(C_1|x)}{P(C_2|x)}$$

1. ベイズの使用 $P(C_1|x)$ そして $P(C_2|x)$

$$a = ln(\frac{P(x|C_1) P(C_1)}{P(x|C_2)P(C_2)}$$

1. 今のすべてはモデル化することです $P(x|C_i)$。彼はそれが正規分布であると想定しています。そしてそこから、2番目の方程式のセットが必要になります。（私が覚えている限り）重要な部分は、2つの共分散行列（$C_1$ とのために $C_2$） 同じだ。現在、この本にアクセスすることはできませんが、明日調べて、派生に難しいステップがあるかどうかを確認します。

tldr：要点は、彼は確率をロジスティックとして仮定し、次の式を取得することです。$a$、その後、彼はの正規分布を仮定します $P(x|C_i)$、次に彼は同じ共分散行列を仮定します。