深度学习调参tricks总结!

机器学习算法与自然语言处理今天 公众号关注 “ML_NLP” 设为 “星标”,重磅干货,第一时间送达! Datawhale干货 作者:山竹小果,来源:NewBeeNLP 寻找合适的学习率(learning rate) 学习率是一个非常非常重要的超参数,这个参数呢,面对不同规模、不同batch-size、不同优化方式、不同数据集,其最合适的值都是不确定的,我们无法光凭经验来准确地确定lr的值,我们唯
相关文章
相关标签/搜索