台大李宏毅-- 反向传播算法 Backpropagation

1. 链式法则 2. 反向传播算法 实例 计算前向传播: 比如: 你会发现,输入值就是前向传播中,要求求解的导数的值。 计算后向传播: 这里假设,一个样本造成的损失loss是: (每个样本有两个输入x1,x2) 综上所述: 由上图可得,在反向传输中,在计算过程中,是先算出最末尾的 ∂C∂y1,∂C∂y2 ∂ C ∂ y 1 , ∂ C ∂ y 2 ,再算出倒数第二个的偏导 ∂C∂z‘,∂C∂z‘‘
相关文章
相关标签/搜索