深层神经网络(DNN)的一些基本概念

本文介绍一些DNN的概念，包括激活函数、损失函数、优化算法等 声明：本文的主要内容及代码主要来源于实战Google深度学习框架html 1 激活函数 DNN的最大突破就是引入了非线性激活函数，若是没有激活函数，那么不管神经网络深度如何，它与一个1层网络本质上是没有区别的。经过增长网络的层数，而且在层与层之间添加非线性项以及偏置项 f ( ∑ i x i w i + b ) f( \sum \lim

>>阅读原文<<