常用激活函数介绍

为什么在神经网络中需要用到激活函数呢,而且是用非线性激活函数呢,原因很简单,假如我们用的是线性激活函数的话,假设在多层神经网络,为某个神经元的计算结果,使用线性激活函数后的结果 则相当于使用了激活函数后仍然为一个线性组合,相当于多次组合,毫无意义,则多层神经网络的最终结果相对于最开始的输入而言也只是做了多次线性组合和用一层线性组合是一个意思,所以为了让多层神经网络达到能拟合任意函数的目的,我们的激
相关文章
相关标签/搜索