常见激活函数（sigmoid/logistic/tanh/softmax/ReLU关系解释）

Sigmoid 神经网络最常见的激活函数就是sigmoid函数。 sigmoid函数意为“S型曲线函数”，它常常指的是logistic（对数几率）函数： y=11+e−x=exex+1 但sigmoid函数还有其他的函数，例如tanh函数等。 tanhx=ex−e−xex+e−x （更多见 https://en.wikipedia.org/wiki/Sigmoid_function） Softma

>>阅读原文<<