深度学习: **函数 (Activation Functions)

Introduction **函数（activation function）层又称 非线性映射 (non-linearity mapping) 层，作用是 增加整个网络的非线性（即 表达能力 或 抽象能力）。 深度学习之所以拥有 强大的表示能力 ，法门便在于 **函数 的 非线性 。 然而物极必反。由于 非线性设计 所带来的一系列 副作用（如 期望均值不为0、死区），迫使炼丹师们设计出种类繁多的*

>>阅读原文<<