概率论学习四、条件概率与统计独立性

本文学习资源来自《概率论基本（李贤平）》

条件概率

定义
设$(\Omega ，f ) ， P$ 是一个概率空间，$B \in f$，而且$P(B)>0$，则对任意$A \in f$，记：

$$P(A|B)=\frac {P(AB)} {P(B)}$$
并称 $P(A|B)$为 在事件$B$发生的条件下事件$A$发生的条件概率（conditional probability）。
若未经特别指出，今后出现条件概率 $P(A|B)$时，都假定 $P(B)>0$

$$P(AB)=P(B)P(A|B)$$ ，
这个等式被称为概率的乘法公式或乘法定理。

若还有$P(A)>0$ ， 则也可定义$P(A|B)$，这时有

$$P(AB)-P(A)P(B|A)=P(B)P(A|B)$$

条件概率性质
首先，不难验证条件概率$P(A|B)$具有概率的三个基本性质：非负性、规范性、完全可加性。

1. $P(A|B) \ge 0$
2. $P(\Omega | B)=1$

3. $P(\sum_{i=1}^\infty A_i|B)=\sum_{i=1}^\infty P(A_i | B)$

   因此，类似于概率，对条件概率也可由三个基本性质导出其它一些性质，例如：

4. $P(\varnothing | B)=0$
5. $P(A|B)=1-P(\overline A|B)$
6. $P(A_1 \cup A_2 | B)=P(A_1|B)+P(A_2|B)-P(A_1A_2|B)$

特别当$B=\Omega$时，条件概率化为无条件概率，因此把一般的概率看作条件概率也可以。

全概率公式

$$P(B)=\sum_{i=1}^\infty P(A_i)P(B|A_i)$$
它是概率论的一个基本公式，有着多方面的应用。

贝叶斯公式

若事件$B$能且只能与两两互不相容的事件$A_1,A_2,\cdots, A_n$之一同时发生，即

$$P(A_i|B) = \frac {P(A_i)P(B|A_i)} {\sum_{i=1}^\infty P(A_i)P(B|A_i)}$$

贝叶斯公式在概率论和数理统计中有着多方面的应用。假定$A_1,A_2,\cdots$是导致试验结果的“原因”，$P(A_i)$称为先验概率，它反映了各种“原因”发生的可能性大小。
条件概率$P(A_i|B)$称为后验概率。