Tensorflow 激活函数 activation function

激活函数 activation function 线性模型的局限性：只通过线性变换，任意层的全连接神经网络和单层神经网络的表达能力并没有任何区别，线性模型能解决的问题是有限的。 激活函数的目的是去线性化，如果将每一个神经元的输出通过一个非线性函数，那么整个神经网络的模型也就不再是线性的了，这个非线性函数就是激活函数。 评价某个激活函数是否有用时,需要考虑的因素有: 1)该函数应是单调的, 这样输出

>>阅读原文<<