关于Deeplearning中的激活函数梯度消失问题以及如何选择激活函数

什么是激活函数？ 如上：输入input,通过加权求和，再通过activation函数激活，再输出做为下一层的输入。服务器 为何要用激活函数 咱们知道，通过加权求和时，输入呈现线性函数关系，此时若是没有激活函数，输出都呈现线性组合，无论神经网络有多少层，结果说到底为线性方程式，没法来映射现实中复杂的因素。之因此运用神经网络，是想让其能像人脑对外界复杂因素进行解析，而这些复杂因素每每并不是简单线性所能

>>阅读原文<<