深度学习之激活函数总结

深度学习中激活函数的作用是能够给神经网络加入一些非线性因素，使得神经网络可以更好地解决较为复杂的问题。没有激活函数，即便有再多的隐藏层，其整个网络跟单层神经网络也是等价的，可见激活函数的重要性如此之大。下面，分别介绍深度学习中常用的激活函数。 1. sigmoid sigmoid的公式如下：                   函数对应的图像如下：            优点：  1. sigmo

>>阅读原文<<