tensorflow在训练过程中逐步减少学习率


# 声明学习率为不可训练
learning_rate = tf.Variable(float(learning_rate), trainable=False, dtype=tf.float32)
# 学习率递减操作,这里表示每次学习率变成上一次的0.9倍
learning_rate_decay_op = learning_rate.assign(learning_rate * 0.9)

#训练过程中根据loss情况来执行学习率递减操作
if ....:  #这里设置一个需要衰减学习率的条件
    sess.run(learning_rate_decay_op)

猜你喜欢

转载自blog.csdn.net/yinruiyang94/article/details/78774697