神经网络——激活函数的作用

激活函数是神经网络的一个重要组成部分。如果不用激活函数（即相当于激活函数为f(x)=x），在这种情况下，网络的每一层的输入都是上一层的线性输出，因此，无论该神经网络有多少层，最终的输出都是输入的线性组合，与没有隐藏层的效果相当，这种情况就是最原始的感知机。 激活函数是用来加入非线性因素的，解决线性模型所不能解决的问题。 例如，对于一个二分类问题，如下图： 利用单层的感知机, 用它可以划出一条线,

>>阅读原文<<