Yineleme 10,000'den fazla olduğunda Tensorflow eğitimi yavaşlar ve yavaşlar. Niye ya?

Question

Verileri giriş boru hattı yöntemleriyle grafiğe besliyorum ve toplu veri oluşturmak için tf.train.shuffle_batch uygulandı. Ancak, eğitim ilerledikçe, tensorflow daha sonraki iterasyonlar için yavaşlar ve yavaşlar. Buna neden olan temel neden hakkında kafam karıştı mı? Çok teşekkürler! Kod snippet'ım:

def main(argv=None): 

# define network parameters 
# weights 
# bias 

# define graph 
# graph network 

# define loss and optimization method 
# data = inputpipeline('*') 
# loss 
# optimizer 

# Initializaing the variables 
init = tf.initialize_all_variables() 

# 'Saver' op to save and restore all the variables 
saver = tf.train.Saver() 

# Running session 
print "Starting session... " 
with tf.Session() as sess: 

    # initialize the variables 
    sess.run(init) 

    # initialize the queue threads to start to shovel data 
    coord = tf.train.Coordinator() 
    threads = tf.train.start_queue_runners(coord=coord) 

    print "from the train set:" 
    for i in range(train_set_size * epoch): 
     _, d, pre = sess.run([optimizer, depth_loss, prediction]) 

    print "Training Finished!" 

    # Save the variables to disk. 
    save_path = saver.save(sess, model_path) 
    print("Model saved in file: %s" % save_path) 

    # stop our queue threads and properly close the session 
    coord.request_stop() 
    coord.join(threads) 
    sess.close() 

Answer 1

Eğitim sırasında sadece bir kez sess.run yapmalısınız. Bu programı görmeden söylemek zor

with tf.Session() as sess: 
    sess.run(tf.global_variables_initializer()) 
    for i in range(train_set_size * epoch): 
    train_step.run([optimizer, depth_loss, prediction])