【AI数学】神经网络的反向传播BackPropagation

BP算法是深度学习中最重要也是最基础的算法之一,也是Hinton本人的图灵奖工作之一。更重要的是,BP是深度学习岗位面试必问题之一。本文会以最容易理解的方式来介绍反向传播,避免大量公式。 1. 前向传播和反向传播 前向还是反向区别在于计算顺序。我们通常把inference称为前向,因为计算顺序是从浅层到深层,一层一层地传递。而反向传播就是从深层到浅层。 先看一个二层感知机网络,如上图。每条虚线代表
相关文章
相关标签/搜索