损失函数———有关L1和L2正则项的理解

一、损失函: 模型的结构风险函数包括了   经验风险项  和  正则项,如下所示:   二、损失函数中的正则项 1.正则化的概念:       机器学习中都会看到损失函数之后会添加一个额外项,常用的额外项一般有2种,L1正则化和L2正则化。L1和L2可以看做是损失函数的惩罚项,所谓惩罚项是指对损失函数中某些参数做一些限制,以降低模型的复杂度。      L1正则化通过稀疏参数(特征稀疏化,降低权重
相关文章
相关标签/搜索