Yüksek seviye tf.layers kullanırken L2 normalleştirmesi ekle

Question

tf.layers'da tanımlanan katmanları kullanırken L2 normalleştirmesi eklemek mümkün mü?

Bana göre, tf.layers yüksek düzeyde bir sarmalayıcı olduğundan, filtre ağırlıklarına erişmenin kolay bir yolu yoktur. tf.nn.conv2d Şimdi

regularizer = tf.contrib.layers.l2_regularizer(scale=0.1) 

weights = tf.get_variable(
    name="weights", 
    regularizer=regularizer 
) 

#Previous layers 

... 

#Second layer 
layer 2 = tf.nn.conv2d(
input, 
weights, 
[1,1,1,1], 
[1,1,1,1]) 

#More layers 
... 

#Loss 
loss = #some loss 

reg_variables = tf.get_collection(tf.GraphKeys.REGULARIZATION_LOSSES) 
reg_term = tf.contrib.layers.apply_regularization(regularizer, reg_variables) 
loss += reg_term 

o tf.layers.conv2d ile nasıl bir şey olurdu ile

?

Teşekkürler! Sorunuzun içinde cevabı

Answer 1

Sen tf.layers.conv2d as arguments:

regularizer = tf.contrib.layers.l2_regularizer(scale=0.1) 
layer2 = tf.layers.conv2d(
    inputs, 
    filters, 
    kernel_size, 
    kernel_regularizer=regularizer) 

Answer 2

içine geçebilir değil midir? Ayrıca tüm REGULARIZATION_LOSSES toplanacak tf.losses.get_regularization_loss (https://www.tensorflow.org/api_docs/python/tf/losses/get_regularization_loss) 'u kullanabilirsiniz.

... 
layer2 = tf.layers.conv2d(input, 
    filters, 
    kernel_size,       
    kernel_regularizer= tf.contrib.layers.l2_regularizer(scale=0.1)) 
... 
l2_loss = tf.losses.get_regularization_loss() 
loss += l2_loss