[AI 笔记] 激活函数

[AI 笔记] 激活函数 神经元 Sigmoid tanh ReLu Leaky ReLu 及 PReLu ELU 总结 参考资料： CS231n课程 神经元 下图是神经网络中的单个神经元。 它有输入、权值、线性函数，以及一个激活函数 f。 神经元的输入通过线性函数得到一个值，再通过激活函数产生输出。激活函数可以理解为为神经网络引入了非线性。 Sigmoid Sigmoid函数是较老的激活函数，形

>>阅读原文<<