为什么正则化后,权重小的损失的更多,而权重大的则损失的少?

黑:过拟合怎么办? 白:加入正则项防止过拟合白:加入正则项防止过拟合 黑:什么是正则项? 白:就是在原来的损失函数加入惩罚项 比如原损失函数: 加入惩罚项之后损失函数: 黑:还是不明白为什么加入这个正则项后就会防止过拟合了呢?原理是啥呢? 白:引入正则项后,会使权重小的特征的权重损失的更多的,而对权重大的特征的权重相对来说损失的就少很多。 黑:数学不好的我怎么也看不出来权重小的损失的多啊?不应该权
相关文章
相关标签/搜索