神经网络的激励函数

** 激励函数 并不是每个神经网络都需要激励函数 为什么要使用激励函数呢？ 因为现实生活中并不是所有问题都能被线性方程所解决，就是说有些问题是需要用到非线性方程的。 首先要了解的是激励函数其实就是一个非线性方程，往往非线性问题所需要的非线性方程就是用 激励函数X线性方程得到的。 上图中的y=wx就是一个线性方程，AF（activation function）为非线性方程 激励函数一般为relu，s

>>阅读原文<<