【深度学习】ResNet网络浅析

ResNet网络是基于残差块的网络模型，先介绍下什么是残差块（Residual block）: 红色圈画的即为一个残差块，与普通的网络相比，区别就是求a[l+2]的时候多加了前面的a[l]这个残差   残差网络： 左图为普通的网络，右图为ResNet。理论上随着网络层数的增加，损失会不断下降，实际上却是左图，因为随着网络的增加，优化函数会越来越难优化   为什么深层网络损失会上升 A huge b

>>阅读原文<<