[ 深度学习 ] —— 经验汇总: 调参

一、各种经验汇总

1、尽量保证输入的训练数据的平衡。——例:分类问题中,输入网络的训练样本最好每个类别的图片数量一样。实验验证 —— {解决方法:当样本实在是不平衡时候,可以通过复制样本的方法使得数据平衡。}

     引伸:

     1)、采用mini-batch方式训练时候,由于mini-batch中的数据是shuffle的,那么每个minibatch中的数据就不一定平衡了。—— {解决方法:想办法每次shuffle的时候,保证每个mini-batch中的数据都是平衡的,即:每一类都数量基本相同。具体内容

2、查看分类错误的样本是哪个,根据特点调整网络。

3、权重初始化的重要性。

https://www.bilibili.com/video/av29378789/?p=5

猜你喜欢

转载自blog.csdn.net/jdzwanghao/article/details/81841641
今日推荐