神经网络中激活函数的意义和须要知足的条件

(1)非线性:即导数不是常数。这个条件是多层神经网络的基础,保证多层网络不退化成单层线性网络。这也是激活函数的意义所在。下面看一下激活函数使用线性函数时会发生什么html 由上可见,任意多个线性函数的组合仍是线性函数,所以只要隐藏层的输出是线性的,不管多少层,都是和一个隐藏层是一回事,只有在线性回归问题中的输出层才会用到线性激励函数,可是实际上对于回归任务,你彻底能够不使用激活函数。算法 (2)几
相关文章
相关标签/搜索