【神经网络】激活函数

每个神经元模型包含一个input，一个output和一个权值以及一个处理单元。神经元输入的信号流即xi被认为是单向的，神经元输出信号是由激活函数f=func(z)处理后的。 1.1基础概念 1.1.1常见的激活函数h： 输出层:等值函数,softmax,sigmoid 输入层:tanh,relu,sigmoid 1.1.2以下是激活函数在运用中所需要得性质： 1.1.2.1饱和 当一个激活函数h(

>>阅读原文<<