第二届全球工业互联网算法大赛-汽车赛道第1名方案

原文发表于:数据竞赛:工业互联网算法大赛汽车赛道Top1方案
欢迎关注微信公众号:YueTan

背景
18年时,我在天津Valeo做VDA审核。印象很深,审核时,完全不像实习的工厂态度,甚至安排厂长和总部VP给我们卑谦的详细介绍。最后那天,厂长忙前忙后的拿各种材料佐证自己确实按流程在做,我无聊的试图在本子上从头写出线性回归,没写出来。那时才意识到自己水平真是差,开始慢慢学习了一波ML。今天遇到汽车的比赛,就参加了。之前已分享过在其他赛道的经历:
装备赛道Top5方案
能源赛道Tail5方案
工业比赛集锦
最强答辩技巧

比赛特点:
信号特征,在预处理上要花不少时间。用了祖传代码为基础。
特征选择,肉眼可以提前判断是否有效。
个人拙见是这个任务不怎么适合机器学习,至少目前给出的数据不适合。因为目标几乎找不到任何有效特征,随机性很大。但整体场景在汽车工业很常见,需求很大。

个人总结:
运气第一,比赛第二
一些常用特征和验证方法仍然有用
针对数据特殊情况,做了一些平平无奇处理

Roadmap
D1
拿到测试数据后,首先把探索性分析用在新数据上。特征主要是基本的套路,特征上主要是全局的统计特征,加分段的统计特征。工序划分方法如下:

画图分析的时候发现了一个规律,就是拧紧阶段会有一个角度逆行,如果逆行期间的扭矩平整又规律的话,静态扭矩有可能更大。最后证明是矮子里拔将军的好特征:

D2
D1得分:1.93,排名:1st/8。
在D1基础上新建了部分特征,同时一开始的猜测是正确的,这个数据做机器学习只比平均值靠谱一点点。所以用instance based模型应该更靠谱一些。这里首先换了一种验证方法,原本按file_id分层采样的五折交叉验证,通过我的观察,数据是连续的,完全没有打乱,而一些波峰是连续的。既然机器学习不好用,找到测试集和训练集哪一段最相似,也许可以出奇制胜了。这里我先用0-100和100-200了,因为猜测这两段就是关键。本地验证从1.67增加到1.72。预测平均值由25.14减少一点25.07。

D3
D2得分1.964,排名2nd/15
分析:上了一堆花里胡哨之后,还自以为找到了一些规律,但得分下降了。不过还算正常,比赛都会有一段瓶颈期,没想到来的这么突然。一下子改动太多,其实不知道哪个能加分、哪个会减分。教训就是每次只选择最有希望的两个,变量要控制好。本地验证难道有用?感觉想多了。
进展:继续滚动播放信号与类别的关系,试图发现点什么规律。同时,认真分析了D1新提供的数据电流时间曲线,看看能不能摸索出一些规律,先回退到了D1。同时每隔10跑一个本地验证,试图找到哪段数据集和测试集是最接近的。暂时没有找到哪段和第一天分数相近。

D4
新增了数据筛选部分。分析:目前对特征上的收获是1)从机理和数据两方面涞源进行添加,2)训练时要反复检查才能加入,毕竟特征和目标的关系肉眼可见。
进展:回到了之前发现的唯一一个像样的规律。从机理上说,静态扭矩应该小于动态扭矩,但事实却是有一些30多的。而且RMSE作为评价指标,这几个异常也是占分非常大的,我Lightgbm设置的同一叶子节点的最小样本是7,所以这几个样本基本考虑不到、还加大了原节点误差。D5从这点切入,预测值较大、同时该特征也特别大的情况下,把他们都提到31。为了稳妥,只选了两三个数字进行调节。
同时新增加了过度阶段的其他统计特征:

奇妙的一夜,换了数据说晚上11点测试一次。然后,又多给了一次11:30的测试机会。不知道有没有人已经睡了,或者电脑不再身边,就挺突然的;还好半夜的我一般都在电脑前。
D5
白天通知说比赛延期两天,很多人私信反应要求增加。
原计划:对划分的所有阶段,暴力生成所有可能生成的统计特征。然后分别用split gain和null importance的方式特征选择。
新计划:躺平,每天只调节参数提交。主要是模型后处理的参数,也就是整体偏移量。

D6-D9:
无进展,由于在排行榜领先,每天简单调调参数就提交了,调节整体偏移量真的有些进展。一个小比赛就结束了,运气独占八成,由于主办方要求,代码不能开源,下期再见。我是YueTan,谢谢关注

扫描二维码关注公众号,回复: 13522115 查看本文章

猜你喜欢

转载自blog.csdn.net/weixin_38812492/article/details/121859030