常见激活函数（sigmoid/logistic/tanh/softmax/ReLU关系解释）

Sigmoid 神经网络最多见的激活函数就是sigmoid函数。 sigmoid函数意为“S型曲线函数”，它经常指的是logistic（对数概率）函数： html y=11+e−x=exex+1 但sigmoid函数还有其余的函数，例如tanh函数等。 tanhx=ex−e−xex+e−x （更多见 https://en.wikipedia.org/wiki/Sigmoid_function） S

>>阅读原文<<