常用激活函数比较

常用激活函数比较 本文结构： 什么是激活函数 为什么要用 都有什么 sigmoid ，ReLU， softmax 的比较 如何选择 1. 什么是激活函数 如下图，在神经元中，输入的 inputs 通过加权，求和后，还被作用了一个函数，这个函数就是激活函数 Activation Function。 2. 为什么要用 如果不用激励函数，每一层输出都是上层输入的线性函数，无论神经网络有多少层，输出都是输

>>阅读原文<<