sklearnで使用できる線形モデルは、LinearRegression、Ridge、Lassoです。
1リッジ
Ridgeは、L2正則化が追加されたモデルです。
フィッティングプロセスでは、通常、重みをできるだけ小さくし、最終的にすべてのパラメーターを比較的小さくしてモデルを構築する傾向があります。
パラメータ値が小さいモデルはより単純であり、さまざまなデータセットに適応でき、ある程度の過剰適合を回避できると一般に考えられているためです。
線形回帰方程式の場合、パラメーターが非常に大きい場合、データが少しシフトする限り、結果に大きな影響がありますが、パラメーターが十分に小さい場合、データシフトは影響しません。結果にまったく影響を与える影響とは、専門用語は「強力な妨害防止能力」です。
係数をプロットします
model = Ridge().fit(train_X, train_y_ln)
print('intercept:'+ str(model.intercept_))
sns.barplot(abs(model.coef_), continuous_feature_names)
2なげなわ
Lassoは、L1正則化が追加されたモデルです。
L1正則化は、スパース重み行列を生成するのに役立ちます。これを使用できます。特徴選択。
参照:https://tianchi.aliyun.com/notebook-ai/detail?spm = 5176.12586969.1002.24.1cd8593aLNK3uJ&postId = 95460