引入ReLu激活函数原因

一、概念 1、激活函数 激活函数是神经网络中每一层输入和输出之间的映射函数。 2、relu激活函数 一种非线性函数,可以表达为 f ( x ) = max ⁡ ( 0 , x ) f(x)=\max (0, x) f(x)=max(0,x) 二、引入原因 引入relu激活函数的原因从以下三个层次论证 1.为何引入非线性的激活函数? 在神经网络中,每一层输出与输入之间都是线性关系,若不处理这种情况,
相关文章
相关标签/搜索