条件概率、全概率公式、贝叶斯公式

一.基本概念

1.条件概率

条件概率是指事件A在事件B发生的条件下发生的概率。条件概率表示为:P(A|B),读作“A在B发生的条件下发生的概率”。若只有两个事件A,B,那么,

P(A|B)=\frac{P(A,B)}{P(B)}

引申公式:

P(A,B)=P(A|B)\cdot P(B)

P(A,B|C)=P(A|B,C)\cdot P(B|C)

2.概率测度

如果事件 B 的概率 P(B) > 0,那么 Q(A) = P(A | B) 在所有事件 A 上所定义的函数 Q 就是概率测度。 如果 P(B) = 0,P(A | B) 没有定义。 条件概率可以用决策树进行计算

3.联合概率

表示两个事件共同发生的概率。AB联合概率表示为 P(AB) 或者P(A,B),或者P(A∩B)。 [2] 

4.边缘概率

是某个事件发生的概率,而与其它事件无关。边缘概率是这样得到的:在联合概率中,把最终结果中不需要的那些事件合并成其事件的全概率而消失(对离散随机变量用求和得全概率,对连续随机变量用积分得全概率)。这称为边缘化marginalization)。A的边缘概率表示为P(A),B的边缘概率表示为P(B)。

二、基本定理

1.定理1

设A,B 是两个事件,且A不是不可能事件,则称P(B|A)=\frac{P(AB)}{P(A)}为在事件A发生的条件下,事件B发生的条件概率。一般地,

P(B|A)\neq P(B),且它满足以下三条件:

(1)非负性;(2)规范性;(3)可列可加性。

2.定理2

    设E 为随机试验,Ω 为样本空间,A,B 为任意两个事件,设P(A)>0,称P(B|A)=\frac{P(AB)}{P(A)}为在“事件A 发生”的条件下事件B 的条件概率。

    上述乘法公式可推广到任意有穷多个事件时的情况。

    设A_{1},A_{2},...,A_{n}为任意n个事件为任意n个事件(n>=2)且P(A_{1}A_{2}...A_{n})> 0,则

    P(A_{1}A_{2}...A_{n})=P(A_{1})P(A_{2}|A_{1})...P(A_{n}|A_{1}A_{2}...A_{n-1})

3.定理3(全概率公式)

定义:(完备事件组/样本空间的划分)

设B1,B2,…Bn是一组事件,若

(1)\forall i\neq j\in \left \{ 1,2,...,n \right \},B_{i}\bigcap B_{j}= \Phi

(2)B_{1}\bigcup B_{2}\bigcup ...\bigcup B_{n}=\Omega

则称B1,B2,…Bn样本空间Ω的一个划分,或称为样本空间Ω 的一个完备事件组。

全概率公式:

设事件组\left \{ B_{i} \right \}是样本空间Ω 的一个划分,且P(Bi)>0(i=1,2,…n)

则对任一事件B,有P(A)=\sum_{i=1}^{n}P(B_{i})P(A|B_{i})

4.定理4(贝叶斯公式)

设B1,B2,…Bn…是一完备事件组,则对任一事件A,P(A)>0,有

P(B_{i}|A)=\frac{P(B_{i}A)}{P(A)}=\frac{P(A|Bi)P(Bi)}{\sum_{i=1}^{n}P(A|Bi)P(Bi)}

猜你喜欢

转载自blog.csdn.net/weixin_38023225/article/details/107531585