GBDTの研究ノート

 

GBDT(勾配ブースト決定木、フリードマン、1999)に提案されたアルゴリズムので、様々な分野で広く使用。私たちは、名前から見ることができ、このアルゴリズムは、主に統合し、決定木アルゴリズムの決定木を後押し、知識、グラデーショングラデーションの3種類が含まれます。

アルゴリズムは、それがモデルとして見ることができる、アンサンブル関数近似A勾配が提案MACHINE物品昇圧GREEDYであり、それは、モデルベースの昇圧勾配として見ることができます。(主に回帰木に基づいGBDT)基礎となるアルゴリズムベースCART勾配アルゴリズムと前記混合伸縮不変(データの標準化を必要としない)、強力な判読ツリーモデルを有することに加えて、タイプの効率的な処理を機能スペースをドロップ、欠落堅牢な値などは、また、強力な予測能力、優れた安定性および他の利点を持っています。そのXGboost / LightGBMに比べ分類アルゴリズムは、GBDTモデルが機能次微分の唯一の損失を必要とする、または凸状突起が適用され、より厳しいXGboost / LightGBM損失機能要件、二次オーダーとすることができます形質導入、損失関数とは、厳密に凸関数が必要です。

 

 

 

 

https://www.sohu.com/a/227107019_505779

https://www.cnblogs.com/pinard/p/6140514.html

おすすめ

転載: www.cnblogs.com/bnuvincent/p/11221393.html