斯坦福CS231n计算机视觉-神经网络的随机失活

具体操作：对于一个三层网络来说，就是每次每层计算输出，以一定概率乘以一个掩码0，一般为50%，从而让一半的输出无效化，对于被选中的节点，就相当于失活了。 那么为什么要随机失活？ 解释一： 避免过拟合 一个猫的特征是多种的，但有时候某些特征过于明显导致其他特征不明显，从而抑制了其他特征的在网络中的表述，这就是对明显特征的过拟合，所以失活可以使你的表征对于图片的表示是冗余的，由于每一个特征都有可能失活

>>阅读原文<<