Tensorflow, hesaplama grafiğinin tek bir GPU'da eşzamanlı olarak yürütülmesi için otomatik olarak Cuda akışlarını kullanıyor mu yoksa akışlar ops/tensörlere manuel olarak atanmalı mı?Tensorflow, Cuda akışlarını nasıl destekliyor?
Şimdilik, TensorFlow sadece bir bilgi akışı ve çoklu kopya akışları kullanır. Bazı çekirdekler, tek akışlı bir semantiği korurken, hesaplama için çoklu akışları kullanmayı seçebilir.
Denemelerimiz, çoklu akışların otomatik olarak etkinleştirilmesinin, çok fazla performans artışı sağlamayacağını, çünkü çekirdeklerimizin çoğunun GPU'daki tüm işlemcileri kullanabilecek kadar geniş olduğunu gösterdi. Ancak çoklu akışın etkinleştirilmesi, GPU belleğini agresif bir şekilde geri dönüştürmek için mevcut tasarımımızı devre dışı bırakır.
Bu, gelecekte tekrar ziyaret edebileceğimiz bir karardır. Böyle bir durumda, TensorFlow'un ops/kernelleri farklı Cuda akışlarına otomatik olarak kullanıcılara göstermeden otomatik olarak ataması olasıdır.