常见激活函数的用法

常见激活函数的用法 1.为什么要使用激活函数 如果不用激励函数，每一层输出都是上层输入的线性函数，无论神经网络有多少层，输出都是输入的线性组合。 如果使用的话，激活函数给神经元引入了非线性因素，使得神经网络可以任意逼近任何非线性函数，这样神经网络就可以应用到众多的非线性模型中。 2.常用的激活函数 2.1 Sigmoid函数 sigmoid函数也叫 Logistic 函数，用于隐层神经元输出，取值

>>阅读原文<<