容量、欠拟合、过拟合问题讨论

容量、欠拟合、过拟合问题讨论

决定机器学习算法是否好的因素：

1.降低训练误差。

2.缩小训练误差和测试误差的差距。

这两个因素对应机器学习的两个主要挑战：欠拟合（underfitting）和过拟合（overfitting）。欠拟合是指模型不能在训练集上获得足够低的误差。过拟合是指训练误差和测试误差之间的差距太大。

模型容量（capacity）是指拟合各种函数的能力。