cs231n训练营学习笔记(7)

反向传播 计算复杂函数的解析梯度,(每个变量的导数指明了整个表达式对于该变量的值的敏感程度) 利用计算图这个框架 圆形节点表示运算,也被叫做门(gate) 复杂函数梯度根据链式法则反向递归得到,每个圆形节点可得到局部梯度 下面是一个例子,为了方便理解   更复杂的情况是,各个变量,比如上面局部梯度的x,y,z是向量的时候,局部梯度就变成了雅可比矩阵 但是当维数太大以及一次需要同时处理很多输入的时候
相关文章
相关标签/搜索