浅谈神经网络中常用的激活函数

激活函数总结 什么是激活函数? 激活函数对于神经网络模型去学习、理解非常复杂和非线性的函数来说具有十分重要的作用。首先,数据的分布绝大多数是非线性的,而一般神经网络的计算是线性的,引入激活函数,是在神经网络中引入非线性,强化网络的学习能力。没有激活函数的每层都相当于矩阵相乘。就算你叠加了若干层之后,无非还是个矩阵相乘罢了。 激活函数 1、Sigmoid函数 Sigmoid函数又叫Logistic函
相关文章
相关标签/搜索