ML - 反向传播

目录 概述 正向传播 误差的反向传播 权重更新 梯度消失与梯度爆炸 概述 反向传播算法使用链式求导法则将输出层的误差反向传回给网络，使网络中的权重有了较简单的地图计算方法。像TensorFlow，Pytorch有现成的反向传播实现。 正向传播 首先定义一个简单的神经网络，正向传播的过程如下所示 以此类推，到达预测值y的位置如下。 误差的反向传播 接着计算预测值与真实值的误差 接着可算出上一层的误差

>>阅读原文<<