欠拟合与过拟合

欠拟合：模型并不能好好描绘训练集特征，损失函数还有继续下降的空间，一般是由于模型参数过于简单。

过拟合：模型除了记住数据普遍特征之外，还记住了训练集的个别数据特征，导致训练集损失函数值下降的同时验证集损失函数却在上升，模型不能很好的预测未知的新数据。往往是由于模型参数过于复杂造成，一般的解决方法为增加数据量或者限制模型参数。

一般情况下，相同的性能的模型往往越简单越好。

消除过拟合的基本方法：

1.获取更多训练数据

2.减少模型参数

3.正则化

4.添加dropout层