神经网络算法：ResNet手写数字识别

ResNet手写数字识别 Kaiming He博士在ResNet论文中提出了这个思想,用于解决深层神经网络很差训练的问题. 上图是论文中关于传统神经网络很差识别的描述,能够看到.随着神经网络的深度增大,训练的错误率逐渐上升.因而他提出了利用残差学习的思想,就是机器再也不学习整个分布,而是学习当前网络生成的分布与原始分布的差别.在CIFAR-10上的网络结构以下: 他使用以下的偏差训练公式,y-x即

>>阅读原文<<