激活函数sigmoid与softmax和relu及其反向传播

sigmoid函数（也叫逻辑斯谛函数）： 　引用wiki百科的定义： 　　A logistic function or logistic curve is a common “S” shape (sigmoid curve). 　　其实逻辑斯谛函数也就是经常说的sigmoid函数，它的几何形状也就是一条sigmoid曲线。 其反向传播 同样，我们贴一下wiki百科对softmax函数的定义： so

>>阅读原文<<