朴素贝叶斯，难？一文让你清楚理解贝叶斯原理

题外话：

充分条件和必要条件

天下雨→地湿，地湿 $\nrightarrow$ 天下雨（有可能是自己泼的水造成地湿了），天下雨是充分条件

阳光充足 $\nrightarrow$ 花长得好，阳光充足 $\leftarrow$ 花长得好阳光充足是必要条件

预备知识：

概率：P（A）代表A事件发生的概率

条件概率： $P(A|B)=\frac{P(A\cap B))}{P(B))}$ 代表在B事件发生的情况下A事件发生的概率

贝叶斯公式： $P(A|B)=\frac{P(B|A)*P(A))}{P(B))}$ （下面有推导过程）

以考试前两天是否喝酒（ $x_{1}$ ）、是否逛街（ $x_{2}$ ）、是否学习（ $x_{3}$ ）预测是否挂科（y）为例.其中 $x_{1}$ =0,代表没有喝酒， $x_{1}$ =1代表喝酒。 $x_{2}$ =0代表没有逛街， $x_{2}$ =1代表逛街。 $x_{3}$ =0代表没有学习， $x_{3}$ 代表学习了。

样本
序号	考挂(y)	喝酒( $x_{1}$ )	逛街( $x_{2}$ )	学习( $x_{3}$ )
1	1	1	1	0
2	0	0	0	1
3	0	1	0	1
4	1	1	0	0
5	1	0	1	0
6	0	0	1	1
7	0	0	1	0
8	1	0	0	1

根据上面样本做下面的计算

简单计算概率（热身运动）：

$P(y=1)=\frac{4}{8}$ ,挂科的概率

$P(y=0)=\frac{4}{8}$ ,不挂科的概率

$P(x_{1}=0)=\frac{3}{8}$ ,喝酒的概率

$P(y=1 \cap x_{1}=1)=\frac{2}{8}$ ,喝酒并且挂科的概率

$P(y=1 \cap x_{3}=1)=\frac{1}{8}$ ，学习并且挂科的概率

是不是身体热起来了~~~~~~~~~~~~~~~

条件概率：

条件概率的定义不懂得自行百度啊（我是表情符号）

$P(y=1|x_{1}=1)=\frac{P(y=1\cap x_{1}=1))}{P(x_{1}=1)}=\frac{2}{3}$

$P(y=1|x_{2}=1)=\frac{P(y=1\cap x_{2}=1))}{P(x_{2}=1)}=\frac{2}{4}$

贝叶斯公式

根据条件概率公式

$P(A|B)=\frac{P(A\cap B))}{P(B))}$ （1）

$P(B|A)=\frac{P(B\cap A))}{P(A))}$ （2）

联立（1）,（2）可得

$P(A|B)=\frac{P(B|A)*P(A))}{P(B))}$

贝叶斯公式应用

贝叶斯公式来用于分类器

假如你有一个样本， $x_{1}=0,x_{2}=0,x_{3}=1$ ,我们来预测下是否挂科。请看官往下看~~

又是预备知识: $P(x_{1},x_{2},x_{3}|y)=P(x_{1}|y)*P(x_{2}|y)*P(x_{3}|y)$

首先计算挂科的概率

$P(y=1|x_{1}=0,x_{2}=0,x_{3}=1)=\frac{P(x_{1}=0,x_{2}=0,x_{3}=1|y=1))*P(y=1))}{P(x_{1}=0,x_{2}=0,x_{3}=1)}$

$=P(x_{1}=0,x_{2}=0,x_{3}=1|y=1)=P(x_{1}=0|y=1)*P(x_{2}=0|y=1)*P(x_{3}=1|y=1)*P(y=1)=\frac{2}{4}*\frac{2}{4}*\frac{1}{4}*\frac{1}{2}=\frac{4}{128}$ （1）

然后计算不挂科的概率

$P(y=0|x_{1}=0,x_{2}=0,x_{3}=1)=\frac{P(x_{1}=0,x_{2}=0,x_{3}=1|y=0))*P(y=0))}{P(x_{1}=0,x_{2}=0,x_{3}=1)}$

$=P(x_{1}=0,x_{2}=0,x_{3}=1|y=0)=P(x_{1}=0|y=0)*P(x_{2}=0|y=0)*P(x_{3}=1|y=0)*P(y=0)=\frac{18}{128}$ （2）

（1）的概率小于（2），经过计算（1），（2）的概率我们判断不喝酒，不逛街，学习 $x_{1}=0,x_{2}=0,x_{3}=1$ 那么他不会挂科（还是不能浪~~哈）

朴素贝叶斯，难？一文让你清楚理解贝叶斯原理

题外话：

预备知识：

简单计算概率（热身运动）：

条件概率 ：

贝叶斯公式

贝叶斯公式应用

猜你喜欢

条件概率：