【代价函数】Cross_entropy：交叉熵损失函数（Cross_entropy loss）

1.Cross_entropy公式及导数推导 损失函数： a=σ(z), where z=wx+b 利用SGD等算法优化损失函数，通过梯度下降法改变参数从而最小化损失函数： 对两个参数权重和偏置进行求偏导： 推导过程如下(关于偏置的推导是一样的)： Note：这个推导中利用了sigmoid激活函数求导，才化简成最后的结果的。sigmoid求导详解 2.分析交叉熵Loss的特点 导数中没有σ′(z)

>>阅读原文<<