BP算法简单推导过程

在这里想到你已经了解了神经网络的基本过程,就输入层,隐含层,输出层基本思路,然后按下图最简单的推导过程,以一个输出OP来简单介绍。 1.前向传播 w是权重,b是偏置项 输入到隐含 同理 隐含到输出 这里采用sigmoid激活函数(非线性) 有个特性是他的导数为: 输出层 计算误差,采取平方差 反向传播,利用梯度下降算法最小化损失函数的过程,主要采取链式求导,这里以为举例 下次更新Wh1这个参数的时
相关文章
相关标签/搜索