3.1 学习率(learning rate)的选择

文章目录 1. 什么是学习率 2. 学习率指数衰减机制 3. 实例解析 4. 总结 1. 什么是学习率 调参的第一步是知道这个参数是什么,它的变化对模型有什么影响。 (1)要理解学习率是什么,首先得弄明白神经网络参数更新的机制-梯度降低+反向传播。参考资料:https://www.cnblogs.com/softzrp/p/6718909.html。 总结一句话:将输出偏差反向传播给网络参数,以此
相关文章
相关标签/搜索