深度学习基础知识之激活函数

在深度视觉的三大基本任务中,我们构建一个卷积神经网络,激活函数是必不可少的,例如sigmoid,relu等,下面我们来介绍下激活函数。 什么是激活函数? 神经网络中每层的输入是上一层的输出,每层输出是下一层的输入,所以在多层神经网络中,上层节点的输出和下层节点的输入之间具有一个函数关系,这个函数称为激活函数。 如图所示: 除输入层外,每个神经元被分成两部分,第一部分我们认为就是上一层的输出;第二部
相关文章
相关标签/搜索