文章目录
-
- 2022-作业说明hw3
-
- 学习目标
- 数据集介绍
- baseline
- 模型选择
- 数据增强
- Test Time Augmentation（需要做多次才能显现它的优势，最后的test的加权多一点比较好）
- Cross validation（需要对数据集做更改，这样就能train好几个model，不想做cross validation就把验证集划少一点，不需要这么多，只是用来验证 有无overfitting）
- ensemble（average比较简单，voting可能会出现平手的情况需要处理）
- 没有GPU资源可以用Kaggle
- checkpoing 重新恢复训练（一种长时间避免断掉的技巧）
- train多个model来做ensemble更保险
- Experimental Tips
- Other tricks...
- colab IO很慢，建议用kaggle
- Q1.数据增强
- Q2.残差连接
- print 维度，不用自己计算
- 训练 早停策略
2022-作业说明hw3
from：https://www.bilibili.com/video/BV1Wv411h7kN?p=35
学习目标
数据集介绍
baseline
模型选择
数据增强
mixup
使用mixup 需要改的地方
Test Time Augmentation（需要做多次才能显现它的优势，最后的test的加权多一点比较好）
Cross validation（需要对数据集做更改，这样就能train好几个model，不想做cross validation就把验证集划少一点，不需要这么多，只是用来验证 有无overfitting）
ensemble（average比较简单，voting可能会出现平手的情况需要处理）
没有GPU资源可以用Kaggle
kaggle时间管理
checkpoing 重新恢复训练（一种长时间避免断掉的技巧）
train多个model来做ensemble更保险
Experimental Tips
Other tricks…
colab IO很慢，建议用kaggle
Q1.数据增强
Q2.残差连接
提供的code 实作残差连接
print 维度，不用自己计算
训练 早停策略
