深度学习参数技巧

1：优化器网络 机器学习训练的目的在于更新参数，优化目标函数，常见优化器有SGD，Adagrad，Adadelta，Adam，Adamax，Nadam。机器学习 其中SGD和Adam优化器是最为经常使用的两种优化器，SGD根据每一个batch的数据计算一次局部的估计，最小化代价函数。学习速率决定了每次步进的大小，所以咱们须要选择一个合适的学习速率进行调优。学习速率太大会致使不收敛，速率过小收敛速度

>>阅读原文<<