正则化

Q：关于正则，我们⼀般采⽤L2或者L1, 这两个正则之间有什么区别? 什么时候需要用L2， 什么时候需要用L1? 首先，过拟合的问题通常发生在变量（特征）过多的时候。这种情况下训练出的方程总是能很好的拟合训练数据。但是，这样的曲线在新的数据样本中表现不一定好。也就是说，经验误差很小，泛化误差很大的时候，过拟合就产生了。 而正则化是解决过拟合的一种常用手段。正则化是一种回归的形式，它将系数估计朝零的

>>阅读原文<<