ベイズ分類器の機械学習アルゴリズムのコンテキストをカーディング

ベイズ決定理論ベイズ分類理論的基礎。

ベイズ決定理論とは何ですか?

判断基準、すなわち探しベイズの決定基準つまり、各サンプルのリスク区分をマーク最低限の条件を作ることを選択し、全体的なリスク最小化するように、(決定ルールを)。各サンプルは、そのように選択されるの事後確率最大の分類器

ベイズの定理が得られる事後確率を、こうしてとに変換クラス条件付き確率尤度溶液)

 

どのように推定するクラス条件付き確率を

一般的な戦略は、であると仮定し、それは特定の識別された確率分布の形をした後、訓練サンプルに基づいて、確率分布のパラメータ推定しますデータサンプリング方法に従って、最尤推定思考の周波数学校から(最尤推定、MLE)は、古典的な確率分布のパラメータを推定します。

 

クラス条件付き確率のすべてのプロパティに関する共同確率は、それが直接から推定学習サンプルの限られた数から困難であり、それをどのように行うには?

1. ナイーブベイズ分類の練習属性条件独立性の仮定のクラスが知られている(条件付き独立性の仮定属性)、すべての属性が独立していることを前提としています。

実際のタスクは、この仮定を設定することはしばしば困難です

2. 半ナイーブベイズ分類緩和のある程度は、関節の確率計算を完了する必要はありませんだけでなく、属性情報の一部との間に相互依存の原因を考慮に入れるが、そう完全に比較的強い性質を無視しないことを条件付き独立性の仮定の性質上依存関係。のみ見積りに依存しているクラスに加えて、各属性は、ほとんどが唯一の他の特性に依存していることを前提として(ワン依存見積もり、ODE)政策、。詳細なアルゴリズムスポード(スーパーODE)、TAN(ツリー増補ナイーブベイズ)、AODE(平均化一依存推定)。

3. ベイジアンネットワーク(ベイジアンネットワーク)、信念ネットワーク(信念ネットワーク)、すなわち、属性間の依存関係を特徴づけると同時確率分布の特性を記述するために条件付き確率テーブル(条件付確率表、略称CPT)を使用します。

 

変数(潜在変数)の「非観察」の場合、およびどのようにモデルのパラメータを推定するの存在下でその?

EM アルゴリズム

 

参考資料

 [1]学習ズハウ・ジワ。マシン清華大学出版。2016.147から170(第7章ベイズ分類器)

おすすめ

転載: www.cnblogs.com/klchang/p/11279905.html