机器学习面笔试-神经网络篇

1.为何引入非线性激励函数? 由于若是不用非线性激励函数,每一层都是上一层的线性函数,不管神经网络多少层,输出都是输入的线性组合,与只有一个隐藏层效果同样。至关于多层感知机了。因此引入非线性激励函数,深层网络就变得有意义了,能够逼近任意函数。web 2.经常使用的激励函数 1)sigmoid:将输出实值压缩到0-1之间。 缺点:(输入很是大或很是小的时候)容易梯度消失;sigmoid函数是非0均值
相关文章
相关标签/搜索