ResNet 深度残差网络

ResNet         残差神经网络,由华人学者何恺明在微软亚洲研究院时提出       在2014年的时候,深度网络的层数已经达到了22层,当时的一些学者就肯定会在想,更深层次的网络结构会带来更好的效果,而当人们去堆叠更深层次的网络结构的时候,发现网络的性能并没有得到提升,反而会有所下降,因为网络层次较深,误差的累计产生了梯度弥散的情况,等反向更新到最开始基层的时候,梯度就趋近于0了。  
相关文章
相关标签/搜索