【吴恩达深度学习】【神经网络和深度学习】 第三章 第七节 我们为什么需要非线性激活函数？

一、为什么不能用非线性函数 假如我们的神经网络的所有激活函数都是线性的函数，我们不妨想这么一个问题 既然两个线性的函数是可以复合的，所以一个只由线性函数构成的神经网络的所有函数能不能复合成一个函数呢？ 显然是可以的，线性函数直接是可以自己复合成一个新的线性函数的，因此，我们如果只采用线性函数，就会发现一个有趣的结论： 一个神经网络可以退化成一个独立的神经元 这个结论来源于线性函数的复合。 基于这个

>>阅读原文<<