机器学习调参方法

① 网格搜索交叉验证:通常是在全量数据上做的,会自动切分成几折(有时候会注意做分层抽样去保证数据分布)。

参考的kaggle kernel代码:https://www.kaggle.com/cesartrevisan/scikit-learn-and-gridsearchcv

② early stopping:这个通常需要切分训练集和验证集,我们会根据验证集去确定最佳的轮次,但是除掉迭代轮次以外其他的参数需要通过经验或者GridSearch敲定。

参考的kaggle kernel代码:https://www.kaggle.com/cast42/xgboost-with-early-stopping

③ 贝叶斯优化

参考的kaggle kernel代码:https://www.kaggle.com/sz8416/simple-bayesian-optimization-for-lightgbm

待理解更深入之后 再补充

发布了118 篇原创文章 · 获赞 132 · 访问量 60万+

猜你喜欢

转载自blog.csdn.net/qfikh/article/details/103798553
今日推荐