经验风险最小化(Empirical Risk Minization,ERM)

一、偏差方差权衡 1. 偏差与方差      回顾之前在讨论线性回归问题时，通常存在以下三种情况： 图1，用一条直线拟合一个呈现二次结构的散点，无论训练样本怎样增多，一次函数都无法准确地表示出二次函数。我们认为它具有高偏差（high bias），表现出欠拟合（underfit）。 图3，用一条五次多项式函数来拟合数据，对于数据的结果，得到的仍然不是一个好的模型，算法拟合出了数据中的一些奇怪规律。我

>>阅读原文<<