《深度学习入门》学习记录 Part2

这周主要是学习了《深度学习入门》的第四、五章节，了解了损失函数、数值微分、梯度、计算图、误差反向传播法和「神经网络学习」的整个过程。 在计算权重函数的梯度时，切实感受到了数值微分方法与误差反向传播法的差距。在使用数值微分算法实现神经网络学习的时，我电脑的呼呼呼的，等了好久好久都没计算成功。但是在使用误差反向传播法时，不到一分钟就处理完了。 概念 鞍点（saddle point） 学习高原：函数很复

>>阅读原文<<