1、深度学习入门级别 的 损失函数整理

一、L1、L2     中文称作L1正则化和L2正则化，或者L1范数和L2范数。L1正则化和L2正则化可以看做是损失函数的惩罚项。所谓『惩罚』是指对损失函数中的某些参数做一些限制。 L1：  =， 即各元素的绝对值之和 。作用：产生一个稀疏模型，可以用于特征选择，一定程度上也可以防止过拟合。 L2：=，即各元素的平方值之和，。作用：防止过拟合。 问题：是否可以组合L1、L2用于惩罚项，以兼顾其各自

>>阅读原文<<