机器学习笔记（8）— 反向传播（BP网络）

本文主要介绍反向传播的代价函数，应用过程，梯度检测、以及前向和反向的区别等内容。 1.反向传播 我们使用反向传播计算导数项（为了求最小代价函数，可以对比梯度下降法导数的作用）。反向传播，就是对每一个节点求误差。根据反向传播的定义： 其中，δ j^((i))代表第i层，第j个节点的误差，代表第i层，第j个节点的拟合结果，yi代表实际值。 将上式写成向量形式为： 我们以上边的4层网络为例： 表示整个网

>>阅读原文<<