l1和l2正则区别

引入: 范数与正则项 所谓范数,就是某种抽象的长度。范数满足通常意义上长度的三个基本性质: 非负性 齐次性 三角不等式 在这里,我们需要关注的最主要是范数的「非负性」。我们刚才讲,损失函数通常是一个有下确界的函数。而这个性质保证了我们可以对损失函数做最优化求解。如果我们要保证目标函数依然可以做最优化求解,那么我们就必须让正则项也有一个下界。非负性无疑提供了这样的下界,而且它是一个下确界——由齐次性
相关文章
相关标签/搜索