[李宏毅 机器学习] 深度学习笔记（DNN, RNN, Backpropagation, ReLU, Maxout, RMSProp, Momentum, Adam, 早停, Dropout）

Deep learning   深度学习其实就是使用多层的神经网络模型来进行机器学习。神经网络也有很多种，最基本的全连接前馈神经网络的原理其实并不复杂，就是多个线性函数加一个激活函数构成一个个神经元，神经元的左边是线性函数的输入，神经元的输出是线性函数经过激活函数后的值，每层有多个神经元，如果将激活函数选为 sigmoid 函数的话，每个神经元的输入输出其实就是前面所讲的 logistic reg

>>阅读原文<<