对resnet densenet的理解

resnet 1 最重要的是残差网络的使用，在神经网络深度比较深的时候，按理说越深的网络，特征提取和拟合能力越强，但是时机训练的过程中发现，较深的网络会出现退化的问题，即准确率还不如浅层的网络。作者想到，能不能在至少不差于浅层网络的基础上，提升深层网络的准确率，下图的这种残差模块实现了这种想法 加入残差模块之后，我们基本上可以放心地增加深度，因为虽然我们并不知道网络具体什么深度才是最合适的，但是通

>>阅读原文<<