统计学习方法第一章第四节

1.4模型评估与模型选择

一训练误差与测试误差（学习方法评估的标准）

1训练误差的大小，对判断给定的问题是不是一个容易学习的问题是有意义的，但本质上不重要

2测试误差反映了学习方法对未知的测试数据集的预测能力，是学习中的重要概念。

二过拟合与模型选择

1如果一味追求提高对训练数据的预测能力，所选模型的复杂度往往会比真模型更高，这种现象称为过拟合。（学习时所选模型参数过多）

2模型选择时，不仅要考虑对已知数据的预测能力，而且还要考虑对未知数据的预测能力。