LR进阶之softmax regression（含具体梯度推导）

在Logistic regression中，所学习的系统的程为：  　　 　　其对应的损失函数为：  　　 　　可以看出，给定一个样本，就输出一个概率值，该概率值表示的含义是这个样本属于类别’1’的概率，因为总共才有2个类别，所以另一个类别的概率直接用1减掉刚刚的结果即可。如果现在的假设是多分类问题，比如说总共有k个类别。在softmax regression中这时候的系统的方程为：  　　 　　

>>阅读原文<<