神经网络DNN的反向传播

前言:在学习一段时间神经网络后,发现自己对神经网络的反向传播还是有点问题,在反过来复习吧,前向传播没有什么费劲的地方,这里就不会过多的阐述。 1、单层的反向传播 一步步来看,先看看简单的情况,单层的反向传播是理解多层神经网络的基础。 基础:梯度与梯度下降算法,前面有讲解过,这里直接给出结论。 从这上面看出,这里是以平方为误差来计算的,的导数为,则梯度的负方向为。故直接带到w的方程中。 W的更新状态
相关文章
相关标签/搜索