《西瓜书》笔记02：模型评估和选择

1. 经验误差与过拟合 训练误差：学习器在训练集上的误差。 泛化误差：学习器在新样本上的误差。 希望得到泛化误差小的学习器，但能做的是让训练误差尽量小。 为了达到这个目的，应该从训练样本中尽可能学习出适用于所有潜在样本的普遍规律，这样才可遇到新样本正确判断。 过拟合：当学习器把训练样本学得太好了的时候，很可能已经把训练样本的一些特点，当成了所有潜在样本都具有的一般性质，导致泛化能力下降。 欠拟合：

>>阅读原文<<