【机器学习】正则化

正则化项是损失函数的附加标准，以确保不会过度拟合。 这样做的目的是：权重不应该过大，如果权重太大，特征上小小的变化就会引起预测较大的改变；也不希望给某个特征过大的权重，因为如果它有太大的权重，就会有很大的影响，其他的特征就起不到应有的作用；我们也希望无用的特征其权重为0. 正则化项有多种计算方式： L1正则：绝对值求和 L2正则：平方和 区别在于：平方和权重给予较大值更多的惩罚 p-范数：p次方和

>>阅读原文<<