第6章：支持向量机

间隔与支持向量

w为法向量，决定的是超平面的方向。b是偏移项，决定了超平面与原点之间的距离。

为什么最大化间隔，得到的就是最优平面呢？

• 当超平面没有正确划分正负样本时，几何间隔为负数。
• 几何间隔，各个点中最小的，当正确划分时，越靠近正中间，几何间隔越大。
  

求解分类支持向量机

凸优化

拉格朗日对偶

KKT条件

求解

SMO

唯一不确定的地方：

核函数

软间隔与正则化

在现实任务中，很难确定合适的核函数使得训练样本在特征空间中线性可分，即使找到了也很难断定这个结果是不是过拟合造成的。
如何缓解?–软间隔

支持向量回归