深度学习《残差网络简单学习》

一:残差网络 VGG网络将网络达到了19层的深度,GoogleNet的深度是22层,一般而言,深度越深,月面临如下问题: 1:计算量增大 2:过拟合 3:梯度消失和梯度爆炸 4:网络退化 第一个问题呢可以用GPU集群并行计算来解决。 第二个问题和第三个问题,可以用(Early stop,Data expading,正则化,dropout,BatchNorm,Gradient clapping)等多
相关文章
相关标签/搜索