TensorFlow'da doğrusal aktivasyon işlevi nasıl kullanılır?

CUDA ConvNet'te, neuron=linear[a,b] yazarak, f(x) = ax + b gibi doğrusal olacak şekilde nöron aktivasyon işlevini belirtebiliriz.TensorFlow'da doğrusal aktivasyon işlevi nasıl kullanılır?

TensorFlow'da aynı sonucu nasıl elde edebilirim?

kaynak

2016-04-09 MY_G

TensorFlow'da bir doğrusal etkinleştirme yazmanın en temel yolu tf.matmul() ve tf.add() (veya + işleci).

prev_layer = … 

linear_W = tf.Variable(tf.truncated_normal([prev_units, linear_units], …)) 
linear_b = tf.Variable(tf.zeros([linear_units])) 

linear_layer = tf.matmul(prev_layer, linear_W) + linear_b

kaynak

2016-04-09 17:49:29 mrry

hep sıfır linear_b vardır: Daha önceki katmandan çıktıların bir matris var varsayarsak boyutu batch_size x prev_units ile (haydi prev_layer diyelim) ve doğrusal tabakasının boyutu linear_units mı? Sıfır ekleme hissi nedir? – Brans

Başlangıçta sıfırlar olarak ayarlanmış bir değişkenlerdir, bu genellikle önyargılar için iyi bir ilk tahmindir (başka hiçbir bilgi yoktur). Ağı eğitirken, bu değişken genellikle sıfır olmayan bir değere güncellenir. – mrry

TensorFlow'da doğrusal aktivasyon işlevi nasıl kullanılır?

cevap

İlgili konular