反向传播公式推导与计算图表示

计算图模型与反向传播 前向传导与反向传导的区别是前向传导是计算每一个输入对于每一个节点的影响（计算∂/∂X，其中X表示输入），反向传导计算每一个节点对于每一个输出的影响（∂Y/∂，Y表示每一个输出）之所以反向传播比前向传播计算效率要高的多，是因为在神经网络中一般而言输入节点个数远远要大于输出节点个数（当然 如果是输出节点个数远远大于输入节点的时候 前向传导效率要高于反向传导 但是基本不存在这样的情

>>阅读原文<<