残差网络

神经网络的学习主要蕴含在权重和阈值中，多层网络使用上面简单感知机的权重调整规则显然不够用了，BP神经网络算法即误差逆传播算法（error BackPropagation）正是为学习多层前馈神经网络而设计，BP神经网络算法是迄今为止最成功的的神经网络学习算法。 在神经网络的训练中，理论上是网络深度加深，理论模上可以取得更好的效果。但实验发现，随着网络深度加深，神经网络中存在退化问题。 这种退化问题和

>>阅读原文<<