Dropout浅层理解学习笔记

Dropout在网络前向传递过程中，关闭一些神经元和它的连接。这么做是为了： 1. 为了防止过拟合； 2. 为了提高神经元的学习能力。 一、形象化理解： 每次做完Dropout，相当于从原始的网络中找到一个更“瘦” 的网络，如下图所示： 对于一个有N个节点的神经网络，有了dropout后，就可以看做是2 n 个模型的集合了，但此时要训练的参数数目却是不变的，解决了费时的问题。 二、实现方法： Dr

>>阅读原文<<