**函数总结(一)

Introduce **函数可以理解为非线性映射,增加网络的复杂性。为什么这么说? 如图所示: 第一部分是对输入的加权求和的过程,是一个线性化表示。如果不用激励函数,每一层输出都是上层输入的线性函数,无论神经网络有多少层,输出都是输入的线性组合。如果使用的话,**函数给神经元引入了非线性因素,可以证明可以任意逼近任何非线性函数,这样神经网络就可以应用到众多的非线性模型中。 都有哪些**函数?有什么
相关文章
相关标签/搜索