非线性激活函数

几种非线性激活函数介绍 1. 几种非线性激励函数(Activation Function) 神经网络中，正向计算时，激励函数对输入数据进行调整，反向梯度损失。梯度消失需要很多方式去进行规避。 1.1 Sigmoid函数 表达式为： y(x)=sigmoid(x)=11+e−x,y(x)in(0,1) y(x)′=y(x)(1−y(x)),y′in(−∞,14] 该函数将输入映射到(0,1)（能否取

>>阅读原文<<