Error = Bias + Variance + Noise
bias描述的是根据样本拟合出的模型的输出预测结果的期望与样本真实结果的差距,反映的是模型在样本上的输出与真实值之间的误差,即模型本身的精准度。模型越复杂,越容易拟合(注意overfitting),bias越小。
varience描述的是样本上训练出来的模型在测试集上的表现,反映的是模型每一次输出结果与模型输出期望之间的误差,即模型的稳定性。模型越简单,variance越小(注意underfitting)。
Error反映的是整个模型的准确度。