条件概率,乘法公式,全概率公式及贝叶斯公式的推导

条件概率

条件概率是指事件A在另外一个事件B已经发生条件下的发生概率。条件概率表示为： $P(A\mid B )$，读作“在B的条件下A发生的概率”
条件概率公式为:
$P(A\mid B) = \frac{P(AB)}{P(B)}$
同理可得出在A条件下B发生的概率为
$P(B\mid A) = \frac{P(AB)}{P(A)}$

乘法公式

1.由上面的条件概率公式得：
$P(AB) = P(A \mid B) * P(B)=P(B \mid A ) * P(A)$

全概率公式

如果事件组B1，B2，… 满足

• B1，B2…两两互斥，即 Bi ∩ Bj = ∅ ，i≠j ， i,j=1，2，…，且P(Bi)>0,i=1,2,…;
• B1∪B2∪…=Ω ，则称事件组 B1,B2,…是样本空间Ω的一个划分,也称B为完备事件组
  设 B1,B2,…是样本空间Ω的一个划分，A为任一事件，则：
  $P(A)= \sum\limits_{i=1}^\infty {P(B_i)}{P(A\mid B _i)}$
  因为 $P(A) = P(A\Omega)=P(A(B_1+B_2+B_3+...))$
  又因为 $B_i$之间互斥,所以 $P(A)=P(AB_1)+P(AB_2)+P(AB_3)+...$
  根据上面的乘法公式我们可以得到:
  $P(AB_1)=P(B_1)*P(A\mid B_1)$
  $P(AB_2)=P(B_2)*P(A\mid B_2)$
  $P(AB_3)=P(B_3)*P(A\mid B_3)$
  由此可得 $= P(A \Omega)=P(A)= \sum\limits_{i=1}^\infty {P(B_i)}{P(A\mid B _i)}$

贝叶斯公式

$P(B_i\mid A)= \frac{P(A\mid B_i) * P(B_i)}{\sum\limits_{j=1}^\infty{P(B_j)}{P(A\mid B_j)}}$

推导过程

• 利用条件概率公式得到
  $P(B_i\mid A)=\frac{P(AB_i)}{P(A)}$
• 利用乘法公式得到变形 $P(AB_i) = P(A \mid B_i) * P(B_i)$
  即:
  $P(B_i\mid A)=\frac{P(A\mid B_i)*P(B_i)}{P(A)}$
• 再利用全概率公式 $P(A\Omega)=P(A)= \sum\limits_{j=1}^\infty {P(B_j)}{P(A\mid B _j)}$
  即:
  $P(B_i\mid A)= \frac{P(A\mid B_i) * P(B_i)}{\sum\limits_{j=1}^\infty{P(B_j)}{P(A\mid B_j)}}$