【深度学习】残差网络Resnet重点问题解读

1.残差网络解决的问题: 可以加深网络层数,避免了由于层数过多反而导致错误率上升的问题(并不是由过拟合造成的,而是由于梯度消失或者梯度爆炸、退化问题) 使用BatchNormalization加速训练(丢弃了传统的dropout) 2.残差块中的虚线shortcut: 实线与虚线的不同在于,虚线部分的x(shortcut)和y(主分支)的维度不同。 我们拿34-layers的Resnet来说: 在
相关文章
相关标签/搜索