卷积神经网络（二）：Softmax损失以及反向传播导数推导

Softmax与交叉熵 Softmax函数如下： Pk=eθkx∑dj=0eθjx P k = e θ k x ∑ j = 0 d e θ j x 其中，Pk对应输出层第k个神经元的输出，也就是预测为第k类的概率,d表示输出层神经元总数 其损失函数(交叉熵)如下： J(θ)=−1n∑i=0n∑j=0dI(label(i)==k)lnPi J ( θ ) = − 1 n ∑ i = 0 n ∑ j

>>阅读原文<<