ReLu及其变体如何解决非线性问题

我们知道线性方程可以做到，将一个平面划分成两个： 线性函数 − 5 − 2 ∗ x + y -5-2*x +y −5−2∗x+y将一个平面分为两部分，使用Relu后，分类边界不再是横穿x-y位置的直线。将x轴以下的部分切掉，从而得到上面右侧图中所示的角度区域。 我们加入了四个relu函数，最终的输出是通过应用一个线性模型将所有这些角区域加到一起来构建的，看起来就像是平面折叠了一样。下面显示了这样一

>>阅读原文<<