softmax函数及交叉熵损失函数求导

1.softmax函数 使用softmax函数主要是为了解决多分类问题，在一个分类神经网络中，该函数可以将多个神经元的输出转换到（0,1）之间，能够当几率来理解，这样就能够取其中最大值当作被分到哪一类。 假设一组神经元的输出为 a [ n ] a[n] a[n]，那么 p i p_i pi​就能够表示为： p i = e a i ∑ j = 1 n e a j p_{i}=\frac{e^{a_i

>>阅读原文<<