防止过拟合dropout

在最近实验的CNN.RNN中老是出现过拟合的问题： 发生过拟合的主要原因可以有以下三点： （1）数据有噪声 （2）训练数据不足，有限的训练数据 （3）训练模型过度导致模型非常复杂 dropout称之为随机失活，指在深度学习网络的训练过程中，对于神经网络单元，按照一定的概率将其暂时从网络中丢弃。“丢弃学习”通常分为两个阶段：学习阶段和测试阶段。截图网上的图片： 在学习阶段，随机失效或者说是隐藏一些节

>>阅读原文<<