深度学习理论——残差神经网络

大家好，继续理论学习，今天学习了何凯明大神的又一力作，残差神经网络。 我们知道，网络层数越深，其表达能力越强，但之前人们并不敢把网络设计的太深，因为会有梯度衰减等各种问题让网络的性能大幅度下滑，用一些正则化，RELU等激活函数也不能完全避免。但有了残差网络，人们可以把网络的层数设计的很深，比如几百层。其基本思想如下： 在传统的平网络（Plain Network）中，一层的网络的数据来源只能是前一层

>>阅读原文<<