CS231n学习笔记——反向传播

CS231n学习笔记——反向传播 首先引入计算图的概念 计算图就是用来 表示任意函数的图，图中的节点表示要执行的每一步计算， 图中R（W）是正则项。 一旦能用计算图来表示一个函数，那么就能使用所谓的反向传播技术递归地调用链式法则来计算计算图中每个变量的梯度。 可见，反向传播就是沿着计算图从输出端开始，对总结果的loss一路求导或者求偏导回到输入的变量，这样求出来的数值组合在一起就是这一次的梯度，对

>>阅读原文<<