cs231n关于反向传播的理解

比如以这个图片为例，这个图所示是一个计算图，表明了最上面公式的计算过程，绿色为各个变量值沿着一系列数学过程，比如乘，加，等一直到最后得到的值，就是0.73.而红色就是梯度值，通过梯度值可以反推过程值。 梯度计算方法是导数乘以下一步梯度值，比如最后一步，1/x的导数是-1/x^2，带入前一步1.37，然后再乘以最后一步的红色1.00，就是-0.53，然后再往前一步，+1的导数为1，因为是类似于C+X

>>阅读原文<<