残差网络resnet详解

1 产生背景 网络的深度对于特征提取具有至关重要的作用,实验证得,如果简单的增加网络深度,会引起退化问题[Degradation问题],即准确率先上升然后达到饱和,再持续增加深度会导致准确率下降。该实验说明了深度网络不能很好地被优化,也就是优化器很难去利用多层网络拟合函数。 这就产生了一个冲突,即需要多层网络,但多层网络又很难拟合函数,故提出了残差网络。 2 解决退化问题 假如目前有一个可以工作的
相关文章
相关标签/搜索