神经网络的激活函数总结

转载自：https://my.oschina.net/amui/blog/1633904 激活函数的意义（需要激活函数的理由） 激活函数是神经网络的一个重要组成部分。如果不用激活函数（即相当于激活函数为f(x)=x），在这种情况下，网络的每一层的输入都是上一层的线性输出，因此，无论该神经网络有多少层，最终的输出都是输入的线性组合，与没有隐藏层的效果相当，这种情况就是最原始的感知机。 正因为上面的原

>>阅读原文<<