cs231n笔记(5)--传统神经网络,激活函数

一.神经元    为了描述神经网络,我们先从神经元讲起,这个神经网络仅由一个“神经元”构成,以下即是这个“神经元”的图示: 具体过程是将Xn加权输入,再求和然后输入到“圆圈”中,圆圈实际上是激活函数,然后再输出,便完成了神经网络中一个神经元的计算过程。 二.激活函数 1.激活函数的作用是将神经网络里的线性变化转换成非线性变换。之前可以看出无论神经网络设计多么复杂,层数再多加权变换也是线性变换,此时
相关文章
相关标签/搜索