1.TL;DL
条件付き確率の公式: P(AB)=P(A)P(B|A)=P(B)P(A|B)、つまり、イベント A とイベント B が同時に発生する確率は次のとおりです。 A が発生する条件に等しい B 発生確率に A の確率が乗算されます。
ベイズの公式: 条件付き確率公式 P(B|A)=P(A|B)P(B)/P(A) から導出
全確率の式：Bを相互に独立した事象から構成される確率空間{B1,b2,...bn}とすると、 P(A)=P(A|B1)P(B1)+P(A|B2)P (B2)+..P(A|Bn)P(Bn)
2 つのイベントの独立性: P(A|B)=P(A)、P(AB)=P(A|B)P(B)=P(A)P(B) を意味します。
合計確率の式を結合した後のベイズの式は次のようになります。
P(Bi|A) は事後確率 ( Posterior )と呼ばれることが多く、 P(A|Bn)P(Bn) は事前確率 ( Prior )です。P(Bi) は基本確率とも呼ばれます。
多変量ベイジアン: P(A|B,C) = P(A,B,C)/P(B,C)= P(C|A,B)*P(A,B)/P(B, C) = P(C|A,B)*P(B|A)*P(A)/P(C|B)*P(B)
同時確率分布 (同時確率分布) : 複数の確率変数の確率分布を同時に考える
ベイジアン ネットワーク:確率的グラフィカル モデルであるベイジアン信念ネットワークまたは有向非巡回グラフィカル モデル
2. ベイズの法則
ベイズの法則では、すべての名詞には慣習的な名前があります。
Pr(A) は、A の事前確率または周辺確率です。これは、B の側面をまったく考慮しないため、「アプリオリ」と呼ばれます。
Pr(A|B) は、B が発生した場合の A の条件付き確率であり、B から導出される値のため、A の事後確率とも呼ばれます。
Pr(B|A) は、A が発生した場合の B の条件付き確率であり、A から導出される値のため、B の事後確率とも呼ばれます。
Pr(B) は B の事前確率または周辺確率であり、正規化された定数としても使用されます。
これらの用語で、ベイズの法則は次のように表現できます。
事後確率 = (尤度 * 事前確率) / 正規化定数 つまり、事後確率は事前確率と尤度の積に比例します。
また、比 Pr(B|A)/Pr(B) は標準尤度（標準化尤度）と呼ばれることもあり、ベイズの法則は次のように表すことができます。
事後確率 = 標準尤度 * 事前確率
ベイズの原理を直観的に理解する:
|
|
|
3. 合計確率の計算式
B_i の 2 つのペアは相互に排他的であり、そのうちの少なくとも 1 つは各試行で (互いに独立して) 発生し、A の計算には B の条件付き確率から始まる完全な確率式を使用できます。
P(A)=P(A|B1)P(B1)+P(A|B2)P(B2)+..P(A|Bn)P(Bn)
4. ベイジアンネットワーク
ベイジアン ネットワークは、信念ネットワークまたは有向非巡回グラフィカル モデルとも呼ばれ、確率的グラフィカル モデルです。人間の推論過程における因果関係をシミュレートする不確実性処理モデルであり、そのネットワークトポロジは有向非巡回グラフ（DAG）です。
ベイジアン ネットワークのノードは確率変数を表し、有向エッジは変数間の因果関係 (非条件独立性) を表し、矢印で接続された 2 つのノードは条件付き確率値を生成します。
ベイジアン ネットワークは、各ノードに定量的な確率情報が注釈付けされた有向グラフです。完全な仕様は次のとおりです。
一連の確率変数がネットワークのノードを構成します。変数は離散的または連続的です。
一連の有向リンクまたは矢印がノードのペアを接続します。ノード X からノード Y への矢印がある場合、X はY の親であると言われます。
各ノード X_iには、ノードに対する親の影響を定量化する条件付き確率分布P(Xi|parents(Xi))があります。
グラフには有向サイクルがありません (したがって、有向非循環グラフ、つまり DAG になります)。
多くの古典的な多変量確率モデルは、ナイーブ ベイジアン モデル、マルコフ連鎖、隠れマルコフ モデル、カルマン フィルター、条件付きランダム フィールドなど、ベイジアン ネットワークの特殊なケースです。
1. 確率の流れの影響
確率的影響の流れとは、ある観測条件下で変数間の値の変化が相互に影響を与えるかどうかを指します。
観測された変数: 変数の値が観測可能である、または変数の値が決定されている
隠れ変数: 変数の値は不明であり、隠れ変数の値の確率は通常、観測変数の値に基づいて推測されます。
1.1 独立性の概念
変数の独立性
確率変数 X と Y は次のいずれかの関係を満たします。
P ( X , Y ) = P ( X ) P ( Y )
P ( X ∣ Y ) = P ( X )
P ( Y ∣ X ) = P ( Y )
次に、確率変数 X と Y は互いに独立していると言います。
条件付き独立性
確率変数 X、Y は Z の指定された条件を満たします。
P ( X , Y ∣ Z ) = P ( X ∣ Z ) P ( Y ∣ Z )
P ( X ∣ Y , Z ) = P ( X ∣ Z )
P ( Y ∣ X , Z ) = P ( Y ∣ Z )
この場合、確率変数 X と Y は独立関係を満たすと考えることもできます。
2. 4 つの古典的な情報フロー構造
3. ベイジアンネットワークにおける条件付き独立関係
3.1 d 分離
3.2 d 分離からの推論
ノードは、親が与えられると、条件付きでその非子孫から独立します。
ノードは、その親、子、および子の親が与えられると、つまりマルコフ ブランケットが与えられると、ネットワーク内の他のすべてのノードから条件付きで独立します。
マルコフブランケット
5. ベイズ適用
数学の分野 |
▪ベイジアン分類アルゴリズム(応用: 統計分析、測量、地図作成) ▪ベイズ公式（応用：確率空間） ▪ベイジアン区間推定（応用：数学における区間推定） ▪ベイジアン逐次決定関数（応用：統計的決定理論） |
▪ベイジアンリスク（応用：統計的意思決定理論） ▪ 贝叶斯估计 (应用:参数估计) ▪ 贝叶斯统计 (应用:统计决策论) ▪ 经验贝叶斯方法 (应用:统计决策论) |
工程领域 |
▪ 贝叶斯定理 (应用:人工智能、心理学、遗传学) ▪ 贝叶斯分析 (应用:计算机科学) ▪ 贝叶斯逻辑 (应用:人工智能) ▪ 贝叶斯网络 (应用:人工智能) |
▪ 贝叶斯分类器 (应用:模式识别、人工智能) ▪ 贝叶斯决策 (应用:人工智能) ▪ 贝叶斯推理 (应用:数量地理学、人工智能) ▪ 贝叶斯学习 (应用:模式识别) |
其他领域 |
▪ 贝叶斯主义 (应用:自然辩证法) |
▪ 有信息的贝叶斯决策方法 (应用:生态系统生态学) |