【算法】朴素贝叶斯法之分类算法

版权声明：可以转载奥 https://blog.csdn.net/Jiajikang_jjk/article/details/83307348

朴素贝叶斯法之分类算法

说明

        本文只是对于朴素贝叶斯法的其中的一个分类算法的学习。参考来源《统计学习方法》。

---

一、 输入

训练数据 $T= \left \{(x_1,y_1),(x_2,y_2),...(x_N,y_N)\right \}$,其中 $x_i = (x_i^{(1)},x_i^{(2)},...x_i^{(n)})^T$

       1： $x_i^{(i)}$是第 $i$ 个样本的第 $j$ 个特征，其中 $x_i^{(j)} \in\left \{ a_{j1},a_{j2},...a_{js_j}\right \}$,
       2： $a_{jl}$是第 $j$个特征可能取的第 $l$个值，其中 $j=1,2,,..S_j，y_i\in\left \{ c_1,c_2,...c_k \right \}$

二、输出实例 x 的分类

• 计算先验概率及条件概率

        $P(Y=C_k)=\sum_{i=1}^{N}I(j_i-c_k)/N,k=1,2,...K$

        $P(X^{j}=a_{jl}|Y=c_k)=\sum_{i=1}^{N}I(x_i^{j}=a_{jl},y_i=c_k)/\sum_{i=1}^{N}I(y_i=c_k)$其中 $j=1,2,...n;l=1,2,...S; k=1,2,...K$.

• 对于给定的实例 $x=(x^{(1)},x^{(2)},...x^{(n)})^T$计算
  $P(Y=c_k)\prod_{j=1}^{n}P(X^{j}=x^{j}|Y=c_k), k=1,2,...K$

• 确定实例 $x$ 的类
  $y=arg\ max P(Y=c_k)\prod_{j=1}^{n}P(X^{(j)}=x^{(j)}|Y=c_k)$

以上就是朴素贝叶斯法之分类算法的思路过程。关于朴素贝叶斯法具体详情可以参考《统计学习方法》。