深度学习笔记--**函数：sigmoid，maxout

在神经网络中引入**函数一个重要的原因就是为了引入非线性。 1.sigmoid 从数学上来看，非线性的Sigmoid函数对中央区的信号增益较大，对两侧区的信号增益小。从神经科学上来看，中央区酷似神经元的兴奋态，两侧区酷似神经元的抑制态，因而在神经网络学习方面，可以将重点特征推向中央区，将非重点特征推向两侧区。 函数形式为。它的优点是输出范围为(0, 1)，所以可以用作输出层，用输出值来表示概率。也

>>阅读原文<<