pytorch学习笔记(1)-optimizer.step()和scheduler.step()

optimizer.step()和scheduler.step()的区别 optimizer.step()一般用在每一个mini-batch之中,而scheduler.step()一般用在epoch里面,可是不绝对,能够根据具体的需求来作。只有用了optimizer.step(),模型才会更新,而scheduler.step()是对lr进行调整。一般咱们有web optimizer = optim
相关文章
相关标签/搜索