sigmoid与softmax 二分类、多分类的使用

二分类下,sigmoid、softmax二者的数学公式是等价的,理论上应该是同样的,但实际使用的时候仍是sigmoid好html

https://www.zhihu.com/question/295247085htm

为何好?其实如今我获得一个确切的答案!get

 

多个sigmoid与一个softmax均可以进行多分类数学

若是多个类别之间是互斥的,就应该使用softmax,即这个东西只多是几个类别中的一种。io

若是多个类别之间不是互斥的,使用多个sigmoid。好比4个类别人声音乐、舞曲、影视原声、流行歌曲,一首歌曲能够来自影视原声,同时也包含人声。co

https://max.book118.com/html/2017/0428/102950525.shtmps

为何softmax使用在类别互斥,多个sigmoid使用在不是互斥?tar

由于softmax中,全部类别之和是1,若是你一个类别高了,另外一个类别的几率确定降低。但多个sigmoid,能够同时输出多个0.9的几率,多个sigmoid之间不影响。好比一首歌曲,第一个类别是判断是不是影视歌曲,能够是0.9,判断的人声的类别也能够是0.9。但若是是softmax,影视歌曲类别是0.9了,人声就最多只能是0.1了。

相关文章
相关标签/搜索