1.7 理解 Dropout-深度学习第二课《改善深层神经网络》-Stanford吴恩达教授

理解Dropout Dropout可以随机删除网络中的神经单元，他为什么可以通过正则化发挥如此大的作用呢？ 直观上理解：不要依赖于任何一个特征，因为该单元的输入可能随时被清除，因此该单元通过这种方式传播下去，并为单元的四个输入增加一点权重，通过传播所有权重，dropout将产生收缩权重的平方范数的效果，和之前讲的 L 2 L2 L2 正则化类似；实施dropout的结果实它会压缩权重，并完成一些预

>>阅读原文<<