深度学习技巧总结

1、深度学习算法调优技巧 1：优化器。机器学习训练的目的在于更新参数，优化目标函数，常见优化器有SGD，Adagrad，Adadelta，Adam，Adamax，Nadam。其中SGD和Adam优化器是最为经常使用的两种优化器，SGD根据每一个batch的数据计算一次局部的估计，最小化代价函数。html 学习速率决定了每次步进的大小，所以咱们须要选择一个合适的学习速率进行调优。学习速率太大会致使不

>>阅读原文<<