百度paddlepaddle深度学习7日(2020.4.7)的一些感想——海阔凭鱼跃,天高任鸟飞

笔者有幸参加:
百度深度学习7日入门-CV疫情特辑
在训练营结尾,笔者也想留下一些感想,留下一些足迹,以记得来时的路


阴差阳错之下,我在某不知名公众号上看到了飞桨paddlepaddle训练营的地址,本着试一试的态度,加了助教的微信,在几日疲惫的征战下,收获颇丰,在最后的比赛中,最高获得是第十名,目前是第十四名,算的上是第一次出师得利![大佬勿喷,嘿嘿][最后被挤到25名了嘿嘿,尴尬]


忘了说,我并不是小白,我在大一就入门了,可能比各位前辈稍微早了一点,说来也可笑,这竟然是我第一次参与AI的比赛,之前不过是参与比赛,报个名,浅尝辄止,连结果也不敢提交。而这次不一样,感觉相当于做了一次小数学建模,在百度的教授给了一些解决的思路后,我果断选了一条众人不常走的路,选择人流密度图来做,从信息论的角度,回归问题,分类问题模型太过于简单,不足以承载人群计数这么大的信息量。而目标检测,需找到位置,再做分类,整个模型包含了不必要的信息量,造成了在表示信息的计算量上的浪费,所以我选择用人流密度图来做。
【注:以上仅是笔者的一孔之见,欢迎大家一起来讨论,来分享】


当天晚上,我就查了人流密度图的一些资料,发现这竟然是一个我从未听说过的“人群计数的新邻域”,既然是这样,网上的资料应该不少,大概是这个邻域太冷门了,中文资料甚少,但是github仍然未抛弃我:
Awesome Crowd Counting
有大佬已经将资源论文都整理了,只可惜全是英文,我选择了MCNN来做,在看了一个晚上之后,将网络结构搭建完毕,简单DEBUG,已是夜里两点,我忽然意识到,我正在复现了一篇论文,想到这里还有些小激动,夜半睡不着觉,放一张图片吧,我其实没做多少工作:
在这里插入图片描述
第二天,略微调整参数,得到错误率0.46+,排到了第10名,但是到了搜索后期,状况频出,梯度消失,梯度爆炸,loss震荡不收敛,这是我第一次面对这种情况,简单调整参数,发现调整学习率换优化器,更改普通超参数已经不能解决这些问题,而我的排名渐渐落后,几乎掉出前20


这时,我灵机一动[可能大家都想到了],将评测指标[错误率]来当做损失函数,这一招有奇效,得到错误率0.35+,我的排名到了第14,到现在基本没什么变化。[最后被挤到25名了嘿嘿,尴尬]


我觉得这个MCNN模型在我这里已经没办法优化了,毕竟这时2015年CVPR的论文,这5年都过去了,我又选择了2018年提出的SANet网络,该网络借鉴了google的inception,有了上次的经验,这次搭建网络可谓轻车熟路,但是结果不太好,loss值在1左右来回震荡,可能是梯度消失问题吧,这是我第一次遇到,之后一定要抽时间解决。这是其网络架构
在这里插入图片描述
好吧,战役纪要就到如此。




我之前只玩tensorflow,后来参加AI训练营,开始用pytorch,现在用起了paddlepaddle,paddlepaddle很好用,中文文档写的很有亲和力,而且在举办各种线上线下的活动来帮助开发者,都非常的走心。甚至百度的一线开发者都和我们在一个群里,而笔者也有幸帮忙复现了一个平台的BUG,在GITHUB上提了两个Issue。


在这里必须提一下班主任小姐姐和猪脚GT[滑稽] ,虽然我不知道他们的真名字,但我真的十分感激他们,让我感觉重回小学,有种被手把手引入门的感觉,再次感激他们的认真负责[鞠躬]。

在这里插入图片描述
这是他俩的头像
在这里插入图片描述

在本期训练营中,所有工作人员都尽职尽责,大家都很感激和佩服助教、教授和班主任以及其他工作人员。





本次训练营体验超好,五星好评!感谢百度大大!!


另外告诉大家一个小技巧,如何能在睡觉的时候用AIstudio跑模型呢,嘿嘿,购买百度的云服务器,或者自己买一个树莓派(低功耗省电),在其上打开浏览器,用AIstudio上的notebook跑就OK了!



还有很多论文,我没有看;还有很多代码,我没有写;还有很多大佬,我没有拜访。

想做的事总是太多,而时间总又太少——改编自皮城女警语录


就写到这里吧,海阔凭鱼跃,天空任鸟飞,笔者先去调参数去了,嘿嘿![比赛结束了,不调参了]


诸位,来日再聚!!

原创文章 66 获赞 14 访问量 9073

猜你喜欢

转载自blog.csdn.net/HaoZiHuang/article/details/105366413
今日推荐