【SVM、决策树、adaboost、LR对比】

一、SVM

   1、应用场景:

     文本和图像分类。

   2、优点:

   分类效果好;有效处理高维空间的数据;无局部最小值问题;不易过拟合(模型中含有L2正则项);

   3、缺点:

   样本数据量较大需要较长训练时间;噪声不能太多;对缺失数据敏感;

二、决策树

  1、应用:

  金融和电子商务

  2、优点:

  同时处理多种类型的数据;适合大量样本的数据;对部分数据缺失不敏感;

  3、缺点:

  容易过拟合;对属性具有强关联性时效果不好;

三、adaboost

  1、应用:

  特征选择;回归问题;

  2、优点:

  精度高;不易过拟合;

  3、缺点:

  对数据不均衡敏感;耗时;

四、对比:

  1.SVM与LR:

  相同:不用核的话都是线性分类器;都是监督学习;都是判别模型;

  不同:样本点对模型的作用不同;损失函数不同;理论基础不同(SVM基于严格的数学推导,LR基于统计);输出不同(LR可以给出概率);可处理空间维度不同;防过拟合程度不同;抗噪能力不同(SVM更好);svm需要先做归一化(距离度量);SVM容易核化。

  2.SVM与决策树:

四、参考

   1、https://blog.csdn.net/sinat_32547403/article/details/72911193

   2、https://www.jianshu.com/p/f86de852ee96

猜你喜欢

转载自www.cnblogs.com/EstherLjy/p/9426226.html