Softmax

时间 2020-12-23

原文原文链接

1、定义假设我们有一个数组V，Vi表示V中的第i个元素，那么这个元素的softmax值就是也就是该元素的指数，与所有元素的指数和的比值。 2、计算与标注样本之间的差距在神经网络的计算当中，我们经常需要计算按照神经网络的正向传播计算的分数S1，和按照正确标注计算的分数S2，之间的差距，计算Loss，才能应用反向传播。Loss定义为交叉熵。取log里面的值就是这组数据正确分类的Softmax值

>>阅读原文<<

1. softened softmax vs softmax
2. Softmax回归（softmax regression）
3. softmax回归(Softmax Regression)
4. 笔记-softmax、softmax loss
5. Softmax回归（Softmax Regression）
6. Softmax， stable softmax, softmax loss， cross entropy loss
7. Softmax
8. softmax
9. Softmax vs. Softmax-Loss: Numerical Stability
10. 层次softmax (hierarchical softmax）理解
更多相关文章...