神经网络优化-----学习率(指数衰减学习率)

神经网络优化中,使用指数衰减学习率,可以在迭代初期得到较高的下降速度,可以在较小的训练轮数下获得更好的收敛度 在 python 中可以用这行代码实现: learning_rate = tf.train.exponential_decay(LEARNING_RATE_BASE,global_step,LEARNING_RATE_STEP,LEARNING_RATE_DECAY,staircase=T
相关文章
相关标签/搜索