2016-02-15 16 views
13

Yüksek trafik uygulamasında gerçek zamanlı tahminler için TensorFlow'u kullanmanın doğru yolu nedir?TensorYüksek trafikli uygulamada gerçek zamanlı tahminler için üretimde nasıl kullanılır - nasıl kullanılır?

İdeal olarak, uygulama sunucularından bağlanabileceğim ve veritabanlarının kullanıldığı yönteme benzer tahminler alabildiğim bir bağlantı noktasını dinleyen tensorflow'u çalıştıran bir sunucu/kümeye sahip olurdum. Eğitim, eğitim verilerini ağ üzerinden aynı sunucu/kümeye besleyen cron işleriyle yapılmalıdır.

Gerçekte tensorflow üretimde nasıl kullanılır? Python'un sunucu olarak çalıştığı bir kurulum yapmalı ve tahminleri almak için python betiklerini kullanmalı mıyım? Bu konuda hala yeniyim ama böyle bir komut dosyasının oturum açabileceğini düşünüyorum. Bu da ölçeklenebilir değil. (100 saniyelik tahminlerden bahsediyorum).

İlgili bilgilerden herhangi bir işaretçi çok takdir edilecektir. Ben bulamadım.

+2

Şu anda TensorFlow'un genel sürümü not ettiğiniz gibi değil; Gelecekte SO'da okuduğum şeye dayanmalıdır. Zaman çerçevesi bilinmiyor. –

+0

Doğru anlıyorsam, sürüm paralel olarak çalışan birden fazla sunucuya sahip olma açısından ölçeklendirilmez. Açık kaynak versiyonu uygulama katmanına da arayüz içermiyor mu? Orta düzeyde iş hacmiyle başlayabilirim ama yine de – Nir

+1

ile bağlantı kurmak için doğru yola ihtiyacım var. Belki [mrry] (http://stackoverflow.com/users/3574081/mrry) bunu görecek ve cevap verecektir. Ayrıca şu anda 3 yakın oyu olduğu için soruyu değiştirmek isteyebilirsiniz. Sana bir tane vermedim, ama bunun kaldırılmaması gereken bir soru olduğunu düşünüyorum. –

cevap

15

Bu sabah, iş arkadaşlarımız GitHub'da TensorFlow Serving yayınladı. Birden fazla modelin yüksek performanslı sunumunu desteklemek için tasarlanan TensorFlow için dağıtılmış bir sarıcıdır. Uygulama sunucularından hem toplu işleme hem de etkileşimli istekleri destekler.

Daha fazla bilgi için, bkz basic ve advanced eğiticileri.

+0

Hey @mrry, Bu da bir dizüstü bilgisayar uygulaması, hatta tek bir tahta bilgisayarda (ahududu pi, intel joule, vb) yerel olarak söylenebilir mi? – Junior

İlgili konular