+リニアSVMソフト最大化間隔(手書きのメモ)

個人的なオリジナルのノートは、再現し、リンクを添付してください。これは、本明細書に記載の、接続されているハード間隔(手書きのメモ)を最大+線形分離SVMを、ソフトが最大化間隔を導出しました。


  • 「ハード間隔」は、パーティション超平面完全に別個の正および負のサンプルの存在です。
  • 「ソフトスペーサー」は、実際のデータサンプルが線形分離が、ほぼ直線的に分離可能ではありません。

 なぜソフト最大化間隔を導入?

データは、ノイズの点の数が少ないに追加された場合、一方のデータは依然として線形分離可能であるが、このモデルの精度は改善されるものの、マージンが大幅に低減されるが、場合でも、汎化誤差が上昇しなかったように、変更のためのこれらの決定プレーンノイズに対応するためにモデル高い、それはろうそくの価値があります。


凸2次最適化問題は、ラグランジュ双対性を利用して解決しました。

書き込みラグランジュ関数、双対問題と元の問題をしてみましょう。


最初のステップ:最初に最小化を追求

それぞれ  \オメガB および  西\ 派生したし、それらをゼロにします。次のステップは、参照制約を得ることである⑥式

ステップ2:偉大なペアを見つける⑦

 その後、我々は、⑨式を解く取得  \アルファ^ {*}した後、使用  \アルファ^ {*} 急行を  \オメガ^ {*} して  B ^ {*}


参考:リー・ハン「統計的学習方法。」

公開された62元の記事 ウォン称賛34 ビュー20000 +

おすすめ

転載: blog.csdn.net/weixin_41960890/article/details/105285242
おすすめ