TensorFlow使用不一样的学习率

使用场景 有时候咱们须要为不一样的网络层设置不一样的学习率。好比在fine-tune的时候，一个best practice就是在ImageNet上预训练的骨干部分使用较小的学习率，而新添加的部分使用较大的学习率。如图所示的计算图谱，若是咱们但愿骨干部分的残差网络学习率小一点，而新增长的aspp模块学习率稍大一点。 虽然TensorFlow对使用不一样的学习率没有提供比较便捷的支持，但使用TF提供的

>>阅读原文<<