机器学习学习笔记—正则化的理解

这几天在学习李航的统计学习方法，来谈谈我对于机器学习中正则化的理解： 什么是正则化 如何理解正则化 正则化的作用 第一个问题，什么是正则化？ 正则化就是在损失函数后加上一个正则化项（惩罚项），其实就是常说的结构风险最小化策略，即经验风险（损失函数）加上正则化。一般模型越复杂，正则化值越大。 正则化项是用来对模型中某些参数进行约束 正则化的一般形式： 其中，第一项是损失函数（经验风险），第二项是正则

>>阅读原文<<