图解机器学习笔记（四）

接下来，我会讲一下，如何防止过拟合。所谓的过拟合即是由于设计的模型过于复杂，如下图： 最终我们的目的是做一个带约束的最小二乘法，如下图： 为此，我们有如下约束和方法： 求出如下： 另外我们有带 约束的最小二乘法方法，满足如下约束。 即有如下表达式。 lambda大于0，可以自己设定。要得到这个表达式，必须用拉格朗日对偶问题解出来。或者我们用另一个表达形式写出来解法： 最后，还可以用奇异值分解的方法

>>阅读原文<<