7.2正则化-学习笔记

正则化可以提高单一模型的效果,我们在模型中加入一些成分来防止过拟合。 我们在损坏函数中多加一项,第一项是让模型拟合数据,第二项则是正则项。 L2有可能意义有些不明确,目前常见的正则项的方式是dropout dropout的道理很简单,我们在每一层的随机层,将一部分的神经元置零,每次正向传播过程中,随机被置零的神经元都不同,每次处理神经元的一层,可以从上图发现,经过dropout后神经网络的大小变小
相关文章
相关标签/搜索