激活函数介绍

ReLU对比Sigmoid主要变化： 1.单侧抑制 2.相对宽阔的兴奋边界 3.稀疏激活性 (1) sigmoid函数（曲线很像“S”型） 公式： 曲线： 也叫 Logistic 函数，用于隐层神经元输出 取值范围为(0,1) 它可以将一个实数映射到(0,1)的区间，可以用来做二分类。（它不像SVM直接给出一个分类的结果，Logistic Regression给出的是这个样本属于正类或者负类的可能

>>阅读原文<<