激活函数

  欢迎转载，作者：Ling，注明出处：深度学习：原理简明教程06-深度学习:激活函数   本节主要来讨论激活函数相关内容。   我们之前已经见过的激活函数：sigmoid，relu   每个神经元结构： 都有一个激活函数。 激活函数一般有啥性质？ 一般是输入的非线性变化。 为什么要非线性变化的激活函数？ 我们看看如果没有非线性变化的激活函数是什么情况： 通过推导可以看出，a[2]等于x输入的线性

>>阅读原文<<