梯度反向传播求解示例

深度学习中进行网络的训练的时候，常常采用梯度反向传递的方式对网络中的参数进行调整，那么具体是怎么实现的呢？我用一个简单的例子进行推导求解。 如下图，这里采用的是两层网络，损失函数采用的是平方差损失函数，激励函数采用的是sigmoid函数，sigmoid函数的导数在我的上篇文章中有写，这里直接用，不再赘述。         通过上面的一系列推导就可以看出，反向传播网络的工作过程是首先进行信息的前馈，

>>阅读原文<<