ResNet那些不解之谜

摘要 残差网络更容易优化，并且可以从显著增加的深度中获得准确性。在ImageNet数据集上，我们对剩余的网进行评估，其深度为152层，比VGG网41层更深，但仍可以保证有较低的复杂度。   解决问题： 1）网络深度加深，会产生梯度消失和爆炸。利用规范化的初始化和Batch Normalization解决，使得具有数十层的网络通过随机梯度下降(SGD)方法可以开始收敛。 2）会产生网络退化的现象，不

>>阅读原文<<