激活函数选择

概述 本篇中你将了解几种常见的激活函数，并看到在浅层神经网络中向后传播及梯度下降是如何进行的。 原文地址：深度学习（五）激活函数的选择 & 浅层神经网络的梯度下降 5.0 上篇回顾 在上一篇中，你见到了一个单输出的浅层（双层）神经网络是如何进行向前传播的，就同 Logistic 回归网络一样，不过多重复了几次单层网络的向前传播过程而已。 对于隐藏层而言，所有的隐藏单元与输入层都构成了简单的单层网络

>>阅读原文<<