ファンのL1およびL2数の本当の意味

これは、11月中にこの知識を追加し、本当の意味を理解していなかった、長い時間となっています。

L0は、(xiが0に等しくない)、非0桁数を表し、[1,2,3,4,5]ノン-5-番号0である、[0,1,2ノルム|| X || 0 = XIあります、0,3]ノン-3-は数0であります

L1はノルム|| X || 1 =Σ| XI | 0とXとの間のマンハッタン距離[1,2,3、-2、-1] = 1 + 2 + 3 + 2 + 1 = 9、桁数の絶対値のため。

あるL2ノルム|| X || 2 =Σ| XI | ^ 2は、xと0の間のユークリッド距離、[1、-3]である= 1 + 2 ^ 2 + 2 ^( - 3)^ 2 =各デジタル正方形や平方根1 + 4 + 9 = 14、。

LPは当たり前|| X || P =√Σ(XI)^ pとします。オーバーフィッティング制御モデルの複雑さを軽減します。機能の一般的な損失のペナルティ項を追加します。

なぜ、L1、L2は、オーバーフィッティングを減らすことができます。モデルはより複雑ワットのパラメータであるので、より複雑なモデルです。W = [W1は、W2、W3、W4、W5、···、WN]いくつか0、いくつかしないゼロを聞かせ、すなわち、L0ノルムであります

目的関数:J MIN(wxiは、Y)STは| W | 0 <= C最適化問題を解決することはできません。図2は、定数C未満に制限することができる| W | | W | 1

コンストラクタラグランジュ関数L(α、W)= J(wxi、Y)+αL(W、α)= J(wxi、Y)+α((| 1-C | W)| W | 2- C)= J(wxi; Y)+α| W | 2-αC= minJ(wxi、Y)+α| W | 2   

それは2次元である場合、機能の損失を最小限に抑えるために、だけでなく、ペナルティ項後に、簡素化することが必要である時、2点の座標がW2、W1、のノルムようにあなたがはっきりと見ることができる、正方形あるいはw1ダウン正の傾きw2が0です。

ときに、2つのノルム、すなわち、円輪郭との交点です。

 

おすすめ

転載: www.cnblogs.com/limingqi/p/11621879.html