【傻瓜攻略】深入学习入门之激活函数（四）

参考：http://cs231n.github.io/neural-networks-1/ 2.tanh（反正切）函数 这个函数的取值范围为[-1,+1]，其实看图也可以发现这个函数与上一章所述的sigmoid函数类似，但是由于这个函数是0对称的，所以实际应用中tanh的效果会略好于sigmoid函数  另外它的求导函数也是很简单，所以应用还是很方便的。 3.ReLU（Rectified Line

>>阅读原文<<