防止过拟合方法之添加正则项的思想原理及作用

防止过拟合方法之添加正则项的思想原理及作用 一、两种风险最小化 二、利用偏差方差分解理解正则化作用 一、两种风险最小化 李航老师的统计学习方法中提到了两种风险最小化，一种是经验风险最小化，另一种是结构风险最小化， 首先我们知道模型的损失越小那么就表明模型越好，模型的输入X以及输出Y均为随机变量，遵循联合分布，所以理论上模型关于联合分布P(X,Y）的平均损失（称为期望损失）如下： 给定训练集，模型关

>>阅读原文<<