1)相同点:都是由多棵树组成,最终的结果都是由多棵树一起决定。
2)不同点:
- 随机森林采用bagging,而GBDT采用boosting
- 组成随机森林的树可以分类树也可以是回归树,而GBDT只由回归树组成
- 组成随机森林的树可以并行生成,而GBDT是串行生成
- 随机森林的结果是多数表决表决的,而GBDT则是多棵树累加之和
- 随机森林对异常值不敏感,而GBDT对异常值比较敏感
- 随机森林是减少模型的方差,而GBDT是减少模型的偏差
- 随机森林不需要进行特征归一化。而GBDT则需要进行特征归一化
- 随机森林对训练集一视同仁,GBDT是基于权值的弱分类器的集成