深度学习 - ResNet

1. 深度网络的退化问题 ResNet最初的想法在于: 在一个训练集上，深层网络不应该比浅层网络性能差，因为只需要将多出来的层全部优化为恒等映射，则深层网络等价于浅层网络。但论文中的试验又表明无论是在训练集还是在测试集上，50层的网络性能远差于20层的网络，这似乎是一个悖论。这一问题被称为深度网络的退化问题（degradation problem）。   2. ResNet基本网络结构 如图所示x

>>阅读原文<<