贷款违约预测第四周周报

模型优化

  • 上周主要对训练集的一些特征值进行了一定分析,画了简单的统计图进行查看,这周主要是在上周的数据分析基础上,继续优化模型,从而得到更优的结果。

  • 数据处理后,这次主要是针对所用的xgboost算法来进行模型调参:

    • 本次调参主要是选取了xgboost算法中的部分参数

    • 首先优化max_depth,min_child_weight两个参数:
      在这里插入图片描述
      在这里插入图片描述

    • 得到最优参数为:max_depth:8,min_child_weight:1

    • 然后是gamma参数:
      在这里插入图片描述
      在这里插入图片描述

    • 得到最优参数为:0.05

    • 最后是reg_alpha和reg_lambda两个参数:
      在这里插入图片描述
      在这里插入图片描述

    • 得到最优参数为:

  • 然后修改模型的参数,再跑一次模型:
    在这里插入图片描述
    在这里插入图片描述

  • 提交结果查看成绩:
    在这里插入图片描述

  • 相较上次有所进步,当然还需要进一步优化。

小结

  • 本周主要是对xgboost算法中的参数进行了调优,当然也没对所有参数进行调整,因为并不是所有参数单个调好整个算法就最优,需要一步步来调整,目前的成绩不是很好,之后还要对参数做进一步的处理,同时数据集也要多分析再优化,总的来说还是慢慢一步步了解到了数据挖掘的魅力,在自己一步一步处理数据调整算法参数的过程中收获到了很多东西。

猜你喜欢

转载自blog.csdn.net/zdxy921/article/details/109099602