读西瓜书：6.1/6.2/6.3/6.4章 【未完成】

读西瓜书：6.1/6.2/6.3/6.4章

6.1 间隔与支持向量

• 如果训练样本是线性可分的，那么线性分类器就是在样本空间中寻找一个超平面，将不同类别的样本分开

• 但能将训练样本分开的超平面可能有很多，哪一个更好？

  

• 上图中判别函数的训练误差都为0，但机器学习中有个准则：不是训练误差最小而是泛化误差最小

• 直觉上应该选正中间的粗线，对未见示例的泛化能力最强

• 对比逻辑回归，当 $w^Tx$ 等于0 (y=0.5) 左右时 ，此时分类的自信度是比较低的，而我们希望有强自信度，那么如何在没有概率的情况定义自信度呢？—— 间隔

间隔：