机器学习 学习总结 第五章 什么是正则化？正则化是如何运作的？

什么是正则化？ 举例说明 如下数据集，两个函数模型的拟合曲线如图： 显然，当阶次较高时，可以很好的拟合数据，但是一般性不好，过度拟合了数据。 下面是在之前的线性回归方程中假设的代价函数： 选择增加两个惩罚项来尽量减少θ3和θ4的值。 代价函数就是我们优化的目标，我们要尽量减少代价函数的均方误差 对代价函数增加如下两项： 为了使这个新代价函数最小化，我们要让θ3和θ4尽量小。 实现最小化后θ3和θ4

>>阅读原文<<