softmax with cross-entropy loss求导(转载+细节整理)

softmax 函数 softmax(柔性最大值)函数,一般在神经网络中, softmax可以作为分类任务的输出层。 其实可以认为softmax输出的是几个类别选择的概率,比如我有一个分类任务,要分为三个类,softmax函数可以根据它们相对的大小,输出三个类别选取的概率,并且概率和为1。 即总共有 k k k类,必有: ∑ k = 1 C y i = 1 \sum_{k=1}^Cy_i=1 k=
相关文章
相关标签/搜索