BP神经网络数学推导

一. 前情提要 神经网络一种求解W权值的算法，分为正向传播(FP)求损失，反向传播(BP)回传误差，根据误差值求解权值W梯度更新其权重，反复迭代，直到找到W最优解(不考虑局部最优)。 本次使用单层神经网络进行推导，隐藏层与输出层的激活函数使用Sigmoid，损失使用均方差MSE，使用梯度下降优化损失函数并求解权值W。 单层神经网络结构如下：其中H(x)为激活函数Sigmoid,S(x,w)为求和函

>>阅读原文<<