李飞飞计算机视觉笔记(3)--反向传播与神经网络初步

当前梯度值:上一层传入当前层的梯度值 两层神经网络:除开输入层总共为2层的神经网络 单层隐藏层的神经网络:与两层神经网络结构一致,我们描述神经网络的层数是通过有多少层的权值来定的,所以输入层不计入层数里面。 梯度计算 前一篇文章说了梯度计算有两种方法,一种数值方法,直接简单但速度慢,第二种就是解析方法,通过微积分进行计算,计算速度快,但有时候的结果是错误的,所以一般会进行梯度检查的操作。我们一般使
相关文章
相关标签/搜索