Resnet论文总结

1.问题引入 通过分析很多网络结构,作者发现网络深度是一个影响网络性能的因素,因此提出:是否网络越深,神经网络的学习效果越好? 解决这个问题之前,一个有关深度神经网络的明显问题就是梯度消失。我们知道,在深层神经网络当中,经常会遇到梯度消失的问题,这可以通过标准初始化和中间层初始化来解决,这使得数十层的网络在通过SGD训练即可达到收敛。 在解决了梯度消失问题之后,网络越深,是否性能就越好呢?作者通过
相关文章
相关标签/搜索