一、SVM概念
支持向量机(Support Vector Machine, SVM)本身是一个__二元分类算法__，是对感知器算法模型的一种扩展，现在的SVM算法支持__线性分类__和__非线性分类__的分类应用，并且也能够直接将SVM应用于__回归应用__中，同时通过OvR或者OvO的方式我们也可以将SVM应用在__多元分类__领域中。在不考虑集成学习算法，不考虑特定的数据集的时候，在分类算法中SVM可以说是特别优秀的。
在感知器模型中，算法是在数据中找出一个划分超平面，让尽可能多的数据分布在这个平面的两侧，从而达到分类的效果，但是在实际数据中这个符合我们要求的超平面是可能存在多个的。
在感知器模型中，我们可以找到多个可以分类的超平面将数据分开，并且优化时希望所有的点都离超平面尽可能的远，但是实际上离超平面足够远的点基本上都是被正确分类的，所以这个是没有意义的；反而比较关心那些离超平面很近的点，这些点比较容易分错。所以说我们只要__让离超平面比较近的点尽可能的远离这个超平面__，那么我们的模型分类效果应该就会比较不错。SVM其实就是这个思想。