对偶问题求解daidingdaiding

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/qq_41185868/article/details/83833281

对偶问题求解

1、对偶问题法的分析

1)、原问题是求解w,其维度和x是一致的,现在求解a,其维度和样本数目一致的,改变了求解问题的维度

2)、观察最优化目标函数,包含样本X的计算只有点积的形式,方便我们引入核函数。核函数也只能在对偶问题形式下才能引入。

2、原问题转为线性二次规划下对偶问题:常用的方法是拉格朗日乘子法,是对偶法产生的条件。详见算法文档—凸优化—线性约束的二次规划章节。

将原问题转为对偶问题:原问题是极大极小问题,原始问题的对偶问题,是极大极小问题。 原问题是求SVM最大值的最小值问题,转化为对偶问题→,就是把最大值放在左边,最小值放在右边。

(1)、计算拉格朗日函数的对偶函数:把原来有约束的最优化问题变为一个新的有约束的最优化问题。

(2)、线性可分的SVM学习算法:求得最优解,即对偶法解决了该问题。

猜你喜欢

转载自blog.csdn.net/qq_41185868/article/details/83833281