激活函数 -- 机器学习

激活函数是用来加入非线性因素的，解决线性模型所不能解决的问题。可以参考博文：https://www.cnblogs.com/silence-tommy/p/7113405.html 一般激活函数有如下一些性质： 非线性： 当激活函数是线性的，一个两层的神经网络就可以基本上逼近所有的函数。但如果激活函数是恒等激活函数的时候，即f(x)=x，就不满足这个性质，而且如果MLP使用的是恒等激活函数，那么其

>>阅读原文<<