-EM機械学習アルゴリズム-GMMモデルノート

以下に従ってGMM即ち、ガウス混合モデル、EMモデルの理論式GMMに由来します。

　　　　Xは、Φそれぞれのガウス確率分布を取り、Kを混合することによって形成されたガウス分布を持つ確率変数である_。1、Φ _2、 ...、Φは_K、i番目の平均のガウス分布は、μである_I、[シグマ分散_I。確率変数X Xのサンプルの場合に認められた一連_。1、X ₂、...、X _N- 、パラメータφを推定しようとすると、μ、Σ。

　　　　E-ステップ

　　　　

 M-ステップ

　　　　EMモデルにガウス分布の数と分布のパラメータ：

　　　　

　　　　平均の偏微分：

　　　　 

　　　　上記の式は、平均ソリューション0に等しくなるように：

　　　　

　　　　ガウス分布の分散：0に等しい偏微分：

　　　　

　　　　パラメータの数の分布：

　　　　

　　　　得ます

　　　　

　　　　　　　　ラグランジュ乗数法：

　　　　　　　　数の確率分布は、ラグランジュ方程式の確立1であるので。

　　　　　　　　

 

　　　　　　　　かかわらず、この状態φi≥0、φI非負の定数を解く、0に等しい偏微分：

　　　　　　　　

これまでのところ、GMMの導出が正式に完了しました。