L0,L1,L2正则化

在机器学习的概念中,我们经常听到L0,L1,L2正则化,本文对这几种正则化做简单总结。 1、概念 L0正则化的值是模型参数中非零参数的个数。 L1正则化表示各个参数绝对值之和。 L2正则化标识各个参数的平方的和的开方值。 2、先讨论几个问题: 1)实现参数的稀疏有什么好处吗? 一个好处是可以简化模型,避免过拟合。因为一个模型中真正重要的参数可能并不多,如果考虑所有的参数起作用,那么可以对训练数据可
相关文章
相关标签/搜索