一张图理解训练的BP反向传播

经过同学许可，借用他的图来讲讲深度学习的反向传播，不涉及具体推导，宏观把握原理。 深度学习训练过程是训练模型的过程，实质上不过是权值更新的过程（不知理解对不对），即图上公式从W(old)到W(new)的过程，当然这里是循环往复、迭代进行。 h(x)是旧的权值参数和特征向量的内积，是实数。再经过激活函数例如sigmoid函数归一化带到网络的预值f(x),最后测计算损失函数J，公式里y是标签值，你懂得

>>阅读原文<<