激活函数学习笔记

一、什么是激活函数 神经网络中的每个神经元节点接受上一层神经元的输出值作为本神经元的输入值，并将输入值加权求和后传递给下一层，在多层神经网络中，上层节点的输出和下层节点的输入之间具有一个函数关系，这个函数称为激活函数（又称激励函数）。 二、激活函数的作用——为什么要使用激活函数 没有激活函数，无论神经网络有多少层，输出都是输入的线性组合。 激活函数给神经元引入了非线性因素，使得神经网络可以逼近任何

>>阅读原文<<