L1正则化和L2正则化

1.范数定义 p范数: 1范数: 相应的L1正则项: 以矩阵 w w w 为例: ∑ i = 1 k ∣ w i ∣ \sum_{i=1}^k|w_i| i=1∑k​∣wi​∣ 2范数: 相应的L2正则项: ∑ i = 1 k w i 2 \sum_{i=1}^k w_i^2 i=1∑k​wi2​ 2.区别 L1:得到的参数的先验概率分布满足拉普拉斯分布,鲁棒性 (Robust) 更强,对异常值不
相关文章
相关标签/搜索