L1和L2正则化

L0范数,L1范数,L2范数 L0范数是指向量中非0元素的个数。 如果我们用L0范数来规则化一个参数矩阵W的话(正则项),就是希望W的大部分元素都是0。换句话说,让参数W是稀疏的。 L1范数是指向量中各个元素绝对值之和,也有个美称叫“稀疏规则算子”(Lasso regularization)。 为什么要稀疏? 特征选择(Feature Selection): 稀疏规则化它能实现特征的自动选择。一般
相关文章
相关标签/搜索