+ Linéaire intervalle SVM maximize doux (notes manuscrites)

Personnelles notes originales, reproduit, s'il vous plaît joindre un lien. Il est décrit ici, relié linéairement séparables SVM + agrandissement intervalle dur (notes écrites à la main) , l' intervalle d'agrandissement mou dérivé.


  • « Intervalle dur », est la présence de la cloison hyperplan positif complètement séparés et des échantillons négatifs.
  • « Soft entretoise » ne sont pas les échantillons de données réelles linéairement séparables, mais à peu près linéairement séparables.

 Pourquoi introduire l'intervalle de Maximize doux?

Si les données sont ajoutées à un petit nombre de points de bruit, alors que le modèle afin de tenir compte de ces bruits d'avion de décisions pour un changement, de sorte que même si les données sont toujours linéairement séparables, mais les marges sera considérablement réduite, même si la précision de ce modèle est améliorée, mais l'erreur de généralisation a lieu élevé, il vaut la chandelle.


problème d'optimisation quadratique Convex résolu en utilisant la dualité Lagrange.

Écrivons le problème Lagrange fonction, double et le problème d'origine.


La première étape: d'abord chercher la minimisation

Respectivement  \oméga, b et  \ Xi étaient la dérivation et les faire zéro. L'étape suivante consiste à obtenir les contraintes, voir formule ⑥ .

Deuxième étape: trouver une belle paire ⑦

 Ensuite , nous résolvons la formule ⑨, obtenir  \ Alpha ^ {*}, puis utilisez l'  \ Alpha ^ {*} express  \ Omega ^ {*} et  b ^ {*}.


Référence: Lee Accrocher « méthodes d'apprentissage statistique. »

Publié 62 articles originaux · louange gagné 34 · vues 20000 +

Je suppose que tu aimes

Origine blog.csdn.net/weixin_41960890/article/details/105285242
conseillé
Classement