Tensorflow modellerini çalıştırmak için NVIDIA TensorRT'yi kullanmak istiyorum. Currenly, TensorRT Caffe prototxt ağ tanımlayıcı dosyalarını destekler.NVIDIA TensorRT Inference Engine ile Tensorflow'u Çalıştırın
Tensorflow modellerini Caffe modellerine dönüştürmek için kaynak kodu bulamadım. Herhangi bir geçici çözüm var mı?
TensorRT 3.0, TensorFlow grafiklerini UFF (evrensel çerçeve biçimi) aracılığıyla içe/dönüştürmeyi destekler. Bazı katman uygulamaları eksiktir ve IPlugin arabirimi aracılığıyla özel uygulamalar gerektirecektir.
Önceki sürümler, TensorFlow modellerinin/denetim noktalarının yerel içe aktarılmasını desteklemiyor.
Yapabilecekleriniz, katmanları/ağ açıklamasını kendi ara biçiminize (metin dosyası gibi) vermeniz ve daha sonra çıkarsama için grafiğin oluşturulması için TensorRT C++ API'sini kullanmanızdır. Konvolüsyon ağırlıklarını/önyargılarını ayrı ayrı ihraç etmeniz gerekir. Ağırlık formatına dikkat ettiğinizden emin olun - TensorFlow, NCHW kullanırken TensorFlow NHWC'yi kullanır. Ve ağırlıklar için, TF kullanır RSCK ([filter_height, filter_width, input_depth, output_depth]) ve TensorRT KCRS kullanır.
tensör biçimlerinin uzun bir tartışma için bu kağıdı bakınız: https://arxiv.org/abs/1410.0759Ayrıca, bu bağlantıyı yararlı alakalı bilgi vardır: Yeni TensorRT 3 TensorFlow desteği eklendi olarak https://www.tensorflow.org/versions/master/extend/tool_developers/
yok geçici çözümler şu anda ihtiyaç vardır.