自适应学习率的优化算法（from goodfellow deep learning）

文章取自goodfellow deep learning书,位置如下： II Deep Networks: Modern Practices 8 Optimization for Training Deep Models —– 8.5 Algorithms with Adaptive Learning Rates 前言 研究表明，学习率是非常重要的一个超参数，甚至能左右模型的好坏，但是，学习率也是

>>阅读原文<<