CNN中的小tips(3)---《l1,l2正则化为什么可以减轻过拟合现象》

过拟合现象发生的原因: 过拟合现象:由于神经网络的学习能力过于强大,以至于学到了训练样本中一些不太一般的特点,从而导致模型的泛化能力变差! 本质原因:由于监督学习问题的不适定:可以这样理解,高数中我们通过n个方程求解n个变量,当用这n个方程求解n+1个变量时,就会求解不出来;在监督学习中,我们给定的数据(方程)远远少于模型空间中的变量(变量的个数)。 而且模型越复杂,越容易过拟合! 因此过拟合的发
相关文章
相关标签/搜索