CTR 预测理论（十一）：神经网络激活函数优缺点总结

1. 激活函数的定义与作用 在人工神经网络中，神经元节点的激活函数定义了对神经元输出的映射，简单来说，神经元的输出（例如，全连接网络中就是输入向量与权重向量的内积再加上偏置项）经过激活函数处理后再作为输出。加拿大蒙特利尔大学的Bengio教授在 ICML 2016 的文章[1]中给出了激活函数的定义：激活函数是映射 h:R→R，且几乎处处可导。 神经网络中激活函数的主要作用是提供网络的非线性建模能

>>阅读原文<<