SVM数学的な導出原理

//2019.08.17

#サポートベクターマシンSVM(ベクターマシンをサポートしています)
1は、サポートベクターマシンSVMは、それが可能な限り最適な決定境界を見つけるためのアルゴリズムの出発点で、非常に重要かつ大規模な機械学習アルゴリズムである、ようにできるだけモデルの汎化能力良い、したがって、将来のデータのSVM予測がより正確です。


2、サポートベクタマシンSVMは二つがある:ハードマージンマージンSVMとSVMソフトは、最初の厳しいサポートベクトルマシンアルゴリズムが主解決するためのものである第二のSVMの最初にある間に、直線的に分離可能なデータの問題来る改善に基づいて、我々はデータの一般的な問題解決することができる分離の線形問題がない特別な要件のために。

3、線形サポートベクターマシンアルゴリズムは、分割することができ、数学的導出原理の結果、条件付きケースを解決する究極の問題を最適化することで、この問題を解決するために、比較的複雑である、あなたは解決されるラプラス演算子を使用することができます。

 

 

 

 

必要と同様sklearn使用及びKNNアルゴリズムで呼び出さSVMアルゴリズム4、StandardScaler処理データを標準化するデータが大きすぎる差と等価でなければならない高次元データの異なる寸法をスケールするように、その数学的な原理は、距離に関係していますそのような減少精度アルゴリズム結果。

5、SVMアルゴリズム必要正則、正規化方法は、二つの方法でモデルの汎化能力が強化されているように、モデルは、特定のフォールトトレランスの空間を有することCは、このような超パラメータの導入をL1とL2正則を有します。C、高いそのフォールトトレランス、Cは厳密に線形SVCへの変換、無限大になる傾向場合。したがって、SVMアルゴリズムに移したときに3つのパラメータを定義する:C(正則化係数、ペナルティ=正則化スキームとmulti_class = OVR /マルチモードOVO分類L1 / L2)

6、sklearn中调用多项式的SVM算法主要有两种方式:
(1)利用管道pipeline常规的方式进行:多项式特征添加,数据标准化以及SVM算法
(2)利用SVM自带的多项式核函数svm算法直接进行训练,这列需要定义很重要的参数kernel="poly",它表示多项式形式的SVM算法。
7、SVC算法的数学原理是求取一定条件下的最优化函数,经过一定的数学公式转换,便可以转换为另外一种等效的最优化问题,对于等效之后的求取最优化函数中带有Xi.Xj这样的式子,这是两个数据样本向量之间的点乘,对于只要有这样式子的函数,我们都可以引入核函数K(x,y)使得具有一定的特殊特征,具体的数学原理如下所示

 

8、对于SVM的高斯核函数是一种比较特殊又功能强大的核函数,它可以将数据样本从mxn升维到mxm的数据,所以它的训练时间还是比较长的。对于高斯核函数的应用,一般用在数据集特点是m<n的基础数据集,即数据维度非常高的数据。

 

おすすめ

転載: www.cnblogs.com/Yanjy-OnlyOne/p/11368221.html