反向传播

看了一个对反向传播讲解很详细的博客，遂决定整理总结一下。 反向传播的本质就是导数中的连式法则： 该定理的详细解释在高数导数内容中，这里就不论述了。下面将借助一个全连接神经网络解释反向传播。 如上图所示，该神经网络由输入层、隐藏层、输出层构成，三层神经网络，单元数分别为3、4和3。假设给了m个训练样本，第i个输入输出对表示为： 其中，x和y是3维向量。对于输入x，我们把g称作神经网络的预测（输出）值

>>阅读原文<<