Machine Learning -- SVM(支持向量机)通俗理解

SVM(支持向量机):

支持向量机算法可以看作是逻辑回归算法的 强化:通过给予逻辑回归算法更严格的优化条件,

支持向量机算法可以获得比逻辑回归更好的分类界线。通过和高斯核函数的结合,支持向量机可以

表达出非常复杂的分类界线,从而达成很好的分类效果。"核"事实上就是一种特殊的函数,最典型的特征

就是可以将低维的空间映射到高维空间。如下图所示:

                                                           

我们如何在二维平面划分出一个圆形的分类界线?在二维平面可能会很困难,但是通过"核"可以将

二维空间映射到三维空间,然后使用一个线性平面就可以 达成类似效果。也就是说,二维平面划分

出的非线性分类界线可以等价于三维平面的线性分类界线。 于是,我们可以通过在三维空间中进行

简单的线性划分就可以达到在二维平面中的非线性划分效果。

                                           

支持向量机是一种数学成分很浓的机器学习算法(相对的,神经网络则有生物科学成分)。在算法的核心步骤中,有一步证明,即将数据从低维映射到高维不会带来最后计算复杂性的提升。于是,通过支持向量机算法,既可以保持计算效率,又可以获得非常好的分类效果。因此支持向量机在90年代后期一直占据着机器学习中最核心的地位,基本取代了神经网络算法。直到现在神经网络借着深度学习重新兴起,两者之间才又发生了微妙的平衡转变。

猜你喜欢

转载自blog.csdn.net/xueluowutong/article/details/85987014