LgihtGBM:ディシジョンツリーアルゴリズムに基づく高速で分散型の高性能グラディエントブースティング
アプリケーション:並べ替え、分類、回帰、その他の機械学習タスク
LightGMB欠陥:で小さなデータセットは過剰適合しがちです
XGBoostと比較した利点
- 精度を落とさずにより速く、メモリ消費量が少ない
LightGBMアルゴリズムの機能:
- 最適な葉ごとの戦略を使用して、葉ノードを分割します。
他のリフティングアルゴリズムは、通常、深さ方向またはレベルごとに使用します。lightGBMによって使用される葉ごとは、同じ葉ノードに成長し、葉ごとのほうがレベルごとよりも優れています。賢いアルゴリズムはより多くの損失を削減するため、より高い精度が得られます
?葉ごとの戦略
?レベルごとの戦略
LightGBは最大のメリットを得ることを選択するノードであり、XGBoostはレイヤーごとに拡大するため、LightGBMは必要な決定木をより低い計算コスト(より少ないレイヤー?)で構築できます。
XGBoostとLightGBMの比較:
XGBoostアルゴリズムの機能:計算プロセスでの値の並べ替えに従って事前並べ替え方法を使用し、部門別収入を1つのデータサンプルで1つずつ計算するため、最適な部門別値を正確に見つけることができますが、コストは比較的大きく、あまり一般化できません。
LightGBMは事前注文のアイデアを採用していませんが、これらの正確な連続値のそれぞれを一連の個別のドメイン、つまりビンに分割します。
?事前分類法
参照:
https : //blog.csdn.net/qq_24519677/article/details/82811215
https://blog.csdn.net/weixin_39807102/article/details/81912566