170620 tensorflow中如何随迭代次数更改学习率learning rate

引言python 高学习率有利于加快迭代更新的速度,但不利于找到局部/全局最优势 低学习率有利于找到局部最优势,但可能使得模型没法跳出局部最优而没法获取全局最优 通常先利用较大的学习率寻找全局近似最优,再利用较小的学习率寻找局部最优,以指望获取模型的全局最优解。 公式 learning−rate=min(learning−rate)+[max(learning−rate)−min(learning
相关文章
相关标签/搜索