初学神经网络——激活函数

1.什么是激活函数     激活函数就是在神经元中,输入的input经过加权,求和后被应用于一个函数,这个函数就是激活函数:Activation Function,如下图所示: 2.为什么使用激活函数     如果不使用激活函数,我们的每一层输出只是承接了上一层输入函数的线性变换,无论神经网络有多少层,输出都是输入的线性组合。如果使用的话,激活函数给神经元引入了非线性的因素,使得神经网络可以逼近任
相关文章
相关标签/搜索