反向传播

神经网络大致可以分成三部分：前向传播、反向传播、参数更新。 前向传播是指有一个输入经过神经网络中的各个层之后计算出LOSS值（在之前的文章已经详细讲解计算过程） 反向传播是指从LOSS值往回看在神经网络中各个参数应该朝着什么方向去调节能够使得结果是朝着优化的方向去的，（也就是求梯度下降方向）。 参数更新就是沿着刚刚求出来的梯度反方向乘上一个步长或者学习率实际的对参数进行更新。 这里我们用一个简单的

>>阅读原文<<