最近、紙上でベイジアン推定の問題をたくさん見ましたが、インターネット上でベイジアン推定の関連知識を要約します。
ベイジアン式:
最尤推定:
実は赤い線で囲んだ部分をお願いしました
最大事後推定:
実は赤い線で囲んだ部分をお願いしました。最尤推定よりもパラメーターの確率が1つ多く、パラメーターにも確率があると見なされます。最大事後推定(MAP)、それと最大尤度推定の最大の違いは、事前分布であるパラメーター自体の分布を考慮することです。
ベイズ推定:
このとき、パラメータの値は直接推定されませんが、特定の確率分布に従うことができます。つまり、p(x)も必要です。
ベイジアンスクール:
新たに観察されたサンプル情報は、人々の以前の物事の認識を修正します。つまり、新たな標本情報を取得する前の人の認識はアプリオリ分布であり、新たな標本情報Xを取得した後の人の認識は事後分布である。
頻度とベイジアンスクールの間の不一致:
頻度学校は、パラメータが客観的に存在し、変化しないと考えています。これは不明ですが、固定値です。ベイズ学派は、パラメータがランダムな値であると考えています。観測されていないため、乱数と変わらないため、パラメータは配布も可能です。
頻度学校は尤度関数を最も重要視し、ベイジアン学校は事後分布を最も重要視しています。事後分布は、実際には尤度関数に事前分布を乗算し、正規化して1に統合することがわかります。したがって、2つの方法の多くは同じです。