TensorFlow ağındaki her düğümün zaman maliyetini hesaplamanın bir yolu var mı?
Performans darboğazlarını bulmakta zorlanıyorum.TensorFlow ağları nasıl oluşturulur?
DÜZENLEME: The Timeline profiler gerçekten harika (https://stackoverflow.com/a/37774470/3632556).
Şu anda en iyi harici yol bir CPU/GPU profilleyici ile derlemektir, ancak bu BUILD ve tensorflow.bzl dosyalarındaki seçenekleri değiştirerek el ile yapılmalıdır (nereden emin değilseniz). TensorFlow kod swig üzerinden bağlı olduğu için
Ardından fonksiyonları O size kalmış vb çoğu zaman, zaman aldığını hakkında profil bilgilerini alabilir, i', gperftools kullanarak ve pprof
tarafından görselleştirerek çalıştırabilirsiniz m pprof aracılığıyla profili okurken sembollerin ne kadar kolay alınacağından emin değilsiniz. Bunu, oluşturulmuş .so nota dosyasına gösterebilirsiniz.
Bir deneyin ve sizin için uygunsa bize bildirin!
TF'de her bir işlem için ne kadar zaman harcanmış olduğunu bulmak istiyorsanız, bunu runtime statistics kullanarak tensör tahtasında yapabilirsiniz. Eğer tensorboard görebiliyorum sadece yazdırmadan daha
run_options = tf.RunOptions(trace_level=tf.RunOptions.FULL_TRACE)
run_metadata = tf.RunMetadata()
sess.run(<values_you_want_to_execute>, options=run_options, run_metadata=run_metadata)
your_writer.add_run_metadata(run_metadata, 'step%d' % i)
Daha İyi: Ek
Böyle bir şey (yukarıda bahsedilen bağlantı tam çek örneği) yapmanız gerekir Bir düğüme tıklamak, tam toplam belleği, hesaplama süresini ve tensör çıkış boyutlarını görüntüler.
Ayrıca, şimdi tensorflow'un debugger'u vardır. İşte nasıl kullanılacağı hakkında bir öğretici.
![[1]: https://www.tensorflow.org/get_started/graph_viz#](https://i.stack.imgur.com/JdoXP.png)
Güncel (2017 sonu TensorFlow 1.4) alma yolu Zaman Çizelgesi bir [ProfilerHook] kullanıyor (https://www.tensorflow.org/api_docs/python/tf/train/ProfilerHook). Bu tf.RunOptions mevcut olmayan tf.Estimator MonitoredSessions ile çalışır. – Urs
https://github.com/tensorflow/tensorflow/tree/master/tensorflow/core/profiler
Başlıca Özellikleri:
ölçün modeli parametreleri, şamandıra işlemleri, tensör şekiller.
Profil yürütme süreleri, istenen bellek boyutu ve cihaz yerleşimi.
Kontrol noktası tensörlerinin şekillerini ve değerlerini kontrol edin.
Seçici olarak gruplandırın, filtreleyin, hesaplayın ve sipariş verin.
Soru, "TensorFlow ağındaki her düğümün zaman maliyetini hesaplamanın bir yolu var mı?" Diyor. * Aracınızı "zaman maliyetini hesaplamak" için nasıl kullanılacağını göstererek cevabınızı geliştirebilir misiniz? – Pang
Çok kötü, bağlantı bulunamadı –
Olası kopya: http://stackoverflow.com/questions/34293714/tensorflow-can-i-measure-the-execution-time-of-individual-operations – user3559888