2016-05-07 26 views
11

Belirli bir modelin değişken kapsamını tensorflow olarak yeniden adlandırmak mümkün mü?Kayıtlı modelin değişken kapsamını yeniden adlandırın TensorFlow

with tf.variable_scope('my-first-scope'): 
    NUM_IMAGE_PIXELS = 784 
    NUM_CLASS_BINS = 10 
    x = tf.placeholder(tf.float32, shape=[None, NUM_IMAGE_PIXELS]) 
    y_ = tf.placeholder(tf.float32, shape=[None, NUM_CLASS_BINS]) 

    W = tf.Variable(tf.zeros([NUM_IMAGE_PIXELS,NUM_CLASS_BINS])) 
    b = tf.Variable(tf.zeros([NUM_CLASS_BINS])) 

    y = tf.nn.softmax(tf.matmul(x,W) + b) 
    cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_ * tf.log(y), reduction_indices=[1])) 
    saver = tf.train.Saver([W, b]) 

... # some training happens 

saver.save(sess, 'my-model') 

Şimdi 'my-first-scope' değişken kapsamında kaydedilen modeli yeniden ve yeni bir yeniden her şeyi kaydetmek istiyorum: Mesela

, ben öğretici dayalı MNIST basamak için lojistik regresyon modeli, oluşturulan dosya ve 'my-second-scope''un yeni bir değişken kapsamı altında. senin hedefe ulaşmak için aşağıdaki gibi

cevap

7

Sen tf.contrib.framework.load_variabletf.contrib.framework.list_variables kullanabilir ve:

: keveman cevabı dayanarak, herhangi TensorFlow kontrol noktasında değişkenlerini yeniden adlandırmak için yürütebileceği bir python komut dosyası, oluşturulan
with tf.Graph().as_default(), tf.Session().as_default() as sess: 
    with tf.variable_scope('my-first-scope'): 
    NUM_IMAGE_PIXELS = 784 
    NUM_CLASS_BINS = 10 
    x = tf.placeholder(tf.float32, shape=[None, NUM_IMAGE_PIXELS]) 
    y_ = tf.placeholder(tf.float32, shape=[None, NUM_CLASS_BINS]) 

    W = tf.Variable(tf.zeros([NUM_IMAGE_PIXELS,NUM_CLASS_BINS])) 
    b = tf.Variable(tf.zeros([NUM_CLASS_BINS])) 

    y = tf.nn.softmax(tf.matmul(x,W) + b) 
    cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_ * tf.log(y), reduction_indices=[1])) 
    saver = tf.train.Saver([W, b]) 
    sess.run(tf.global_variables_initializer()) 
    saver.save(sess, 'my-model') 

vars = tf.contrib.framework.list_variables('.') 
with tf.Graph().as_default(), tf.Session().as_default() as sess: 

    new_vars = [] 
    for name, shape in vars: 
    v = tf.contrib.framework.load_variable('.', name) 
    new_vars.append(tf.Variable(v, name=name.replace('my-first-scope', 'my-second-scope'))) 

    saver = tf.train.Saver(new_vars) 
    sess.run(tf.global_variables_initializer()) 
    saver.save(sess, 'my-new-model') 
+0

Bu, grafiği tanımlamanız gereken denetim noktasını geri yüklemek için grafiği ve önceki kapsam adını kullanan her şeyi oluşturmanızı gerektirir. Sadece kontrol noktası dosyasına sahipseniz, bunun içinde bir kapsam ismini değiştirebilir misiniz? – npit

18

https://gist.github.com/batzner/7c24802dd9c5e15870b4b56e22135c96

Alt dizeleri, değişken adlarında değiştirebilir ve tüm adlara önek ekleyebilirsiniz.

def rename(checkpoint_dir, replace_from, replace_to, add_prefix, dry_run=False): 
    checkpoint = tf.train.get_checkpoint_state(checkpoint_dir) 
    with tf.Session() as sess: 
     for var_name, _ in tf.contrib.framework.list_variables(checkpoint_dir): 
      # Load the variable 
      var = tf.contrib.framework.load_variable(checkpoint_dir, var_name) 

      # Set the new name 
      new_name = var_name 
      if None not in [replace_from, replace_to]: 
       new_name = new_name.replace(replace_from, replace_to) 
      if add_prefix: 
       new_name = add_prefix + new_name 

      if dry_run: 
       print('%s would be renamed to %s.' % (var_name, new_name)) 
      else: 
       print('Renaming %s to %s.' % (var_name, new_name)) 
       # Rename the variable 
       var = tf.Variable(var, name=new_name) 

     if not dry_run: 
      # Save the variables 
      saver = tf.train.Saver() 
      sess.run(tf.global_variables_initializer()) 
      saver.save(sess, checkpoint.model_checkpoint_path) 

Örnek:

python tensorflow_rename_variables.py --checkpoint_dir=path/to/dir --replace_from=scope1 --replace_to=scope1/model --add_prefix=abc/ 

değişken scope1/Variable1 yeniden adlandırır İşte

--replace_from=substr --replace_to=substr --add_prefix=abc --dry_run 

komut dosyasının çekirdek fonksiyonudur opsiyonel argümanlarla

python tensorflow_rename_variables.py --checkpoint_dir=path/to/dir 

ile senaryoyu Çağrıabc/scope1/model/Variable1.

+0

Bu hatayı komut dosyası ile alıyorum: ValueError: 'Checkpoint' dosyasını veya verilen bir dizinde denetim noktalarını bulamadık ./fi – ryuzakinho

+1

@ryuzakinho, bir 'checkpoint' dosyası içeren bir dizin belirtmeniz gerekir. Daha fazla bilgi için https://www.tensorflow.org/programmers_guide/variables#checkpoint_files adresine bakın. –

+1

Aslında, bir nedenle write_state = False vardı. Bu nedenle, bir denetim noktası dosyası oluşturmuyordu. – ryuzakinho