参考文献：https://blog.csdn.net/Dominic_S/article/details/83002153
1.硬间隔最大化
对于以上的KKT条件可以看出，对于任意的训练样本总有ai=0或者yif(xi) - 1=0即yif(xi) = 1
1）当ai=0时，代入最终的模型可得：f(x)=b，样本对模型没有贡献
2）当ai>0时，则必有yif(xi) = 1，注意这个表达式，代表的是所对应的样本刚好位于最大间隔边界上，是一个支持向量，这就引出一个SVM的重要性质：训练完成后，大部分的训练样本都不需要保留，最终的模型仅与支持向量有关。
2.软间隔最大化
如果数据加入了少数噪声点，而模型为了迁就这几个噪声点改变决策平面，即使让数据仍然线性可分，但是边际会大大缩小，这样模型的准确率虽然提高了，但是泛化误差却升高了，这也是得不偿失的。
或者有一些数据，线性不可分，或者说线性可分状况下训练准确率不能达到100%，即无法让训练误差为0。
此时此刻，我们需要让决策边界能够忍受一小部分训练误差，而不能单纯地寻求最大边际了。因为边际越大被分错的样本也就会越多，因此我们需要找出一个”最大边际“与”被分错的样本数量“之间的平衡，引入一个平衡系数ζ。
在硬间隔中：决策平面是绿色实线，约束条件是要保证两类样本点分别位于两条绿色虚线的两侧，所有样本点都被正确分类。
在软间隔中：决策平面是绿色实线，约束条件变为蓝色虚线，且红色样本点在红色箭头一侧即可，紫色样本点在紫色箭头一侧即可。
