深度学习中激活函数的区别

（1）sigmoid函数 公式： 曲线： sigmoid函数也叫 Logistic 函数，用于隐层神经元输出，取值范围为(0,1)，它可以将一个实数映射到(0,1)的区间，可以用来做二分类。在特征相差比较复杂或是相差不是特别大时效果比较好。 sigmoid缺点： 激活函数计算量大，反向传播求误差梯度时，求导涉及除法。 反向传播时，很容易就会出现梯度消失的情况，从而无法完成深层网络的训练。 Sigm

>>阅读原文<<