过拟合与欠拟合数学原理

一、偏倚（bias）和方差(variance) 在讨论线性回归时，我们用一次线性函数对训练样本进行拟合（如图1所示）；然而，我们可以通过二次多项式函数对训练样本进行拟合（如图2所示），函数对样本的拟合程序看上去更“好”；当我们利用五次多项式函数对样本进行拟合（如图3所示），函数通过了所有样本，成为了一次“完美”的拟合。 图3建立的模型，在训练集中通过x可以很好的预测y，然而，我们却不能预期该模型能

>>阅读原文<<