CNN学习笔记

1. 激活函数 用来限制神经元输出振幅。由于通过激活函数将输出信号压制（限制）到允许范围之内的一定值，故而激活函数也被称之为压制函数。 为什么引入非线性激励函数？ 如果不用激励函数（其实相当于激励函数是f(x) = x），在这种情况下你每一层输出都是上层输入的线性函数，很容易验证，无论你神经网络有多少层，输出都是输入的线性组合，与没有隐藏层效果相当，这种情况就是最原始的感知机（Perceptron

>>阅读原文<<