深度学习中经常使用的激励函数

转自：http://blog.csdn.net/rogerchen1983/article/details/79380567html   咱们知道深度学习的理论基础是神经网络，在单层神经网络中（感知机），输入和输出计算关系以下图所示：   可见，输入与输出是一个线性关系，对于增长了多个神经元以后，计算公式也是相似，以下图：   这样的模型就只能处理一些简单的线性数据，而对于非线性数据则很难有效地处

>>阅读原文<<