CPU vs GPU için (conv) Sinir Ağları hesaplama

Question

Neural Nets uygulamak için bu yıl pylearn ve Theano (Ben de meşale ve caffe deneyebilirsiniz) ile çok çalışacağım AI bir öğrenciyim ve ben Bu konuda bir dizüstü bilgisayar satın almak üzere. Bu konudaki deneyiminize dayanarak yardımınıza sahip olmak isterim.

Büyük bir bütçem yok, bu yüzden çok param yok. İki ya da üç basit soru vardır: Böyle Theano, meşale olarak kütüphaneler için en iyi desteklenir

, caffe: ATI veya NVIDIA? Herkes, bu gibi bir şey için Geforce 740M 820M 840M GPU hesaplamayı denedi mi? ve daha sonra CPU'lar daha iyi mi? veya büyük bir GPU'yu karşılayamazsam, bu (ucuz) kartlardan ziyade iyi bir i7 ile bir dizüstü bilgisayar satın almak daha mı iyi?

Ben NN uygulanması için bu kütüphanelerin bilmem, ilk soruya gelince

Answer 1

Yanıtlarınızı ve bazı blog yayınlarını okuduktan sonra, sonuç şudur: Derin çalışma için ana iş istasyonunuzu dizüstü bilgisayar yapmaya çalışmayın! Bu sadece çok pahalı: Sadece bir masaüstü için yüzlerce mal olabilir bir dizüstü bilgisayar yapılandırması için binlerce dolar harcayacaksınız. Ve daha ucuz buna değmez.

Ben 13" dizüstü bilgisayar satın almak ve güçlü bir masaüstü oluşturmaya başlamak için gidiyorum düşünüyorum, sonra buna bir SSH erişimini yapmak istiyorum.

Bu iki bağlantılar GPU üzerinde iyi bir anlayış sahibi olmak için mükemmeldir

https://www.linkedin.com/pulse/20141013042457-89310056-which-gpu-to-use-for-deep-learning

hepinize teşekkürler seçim.

http://timdettmers.com/2017/04/09/which-gpu-for-deep-learning/

!

Answer 2

Zaman ayırdığınız için teşekkür ederiz. Ama eğer oktav/Matlab gibi bir şey kullandıysanız, her ikisi de NN eğitimi için CUDA'yı kullanan NN kütüphanelerine sahiptir. GPU vs CPU .... NN ve makine öğreniminin genel olarak uygulanması, vektör/matrislere ve çarpma/toplama gibi matris işlemlerine dayanır. Matris işlemleri söz konusu olduğunda, iki kez düşünmüyorsanız, her zaman GPU'ları tercih edebilirsiniz. Matris işlemi, GPU'ları yoğun şekilde kullanan Tekli komut Çoklu Veri işlemleridir. Temel olarak, büyük miktarda veri üzerinde bağımsız olarak yürütülen aynı işlemdir (genellikle basit olanı). Çok gelişmiş bir GPU'ya ihtiyacınız yok. Eski macbook'umda 320GTX kullandım ve yeterince iyiydi (öğrenci olduğunuzu varsayalım ve ya bir sektörel proje değil, bir konsept ya da akademik proje kanıtı uygulayacağım).

Answer 3

Makine lea Rning işlemleri genellikle matris-matris çarpımlarına indirgenir. Şu anda, GPU'lar CPU'lardan çok daha fazla iş parçacığına sahip olduğundan, matris matris çarpımları GPU'larda CPU'lardan çok verimlidir. Ayrıca NVIDIA, CUDA araç setini oldukça uzun yıllar destekledi. Platform şimdi olgunlaştı. Pek çok DL kütüphanesi (örneğin, Caffe, Theano, Torch, TensorFlow), BLAS (temel lineer cebir altprogramları) ve DNN (derin sinir ağları) kütüphaneleri için CUDA desteklerini kullanmaktadır. Derin öğrenme kütüphaneleri geliştiricileri matris matrisi çarpımlarını optimize etmek için önemli zaman ayırmak zorunda kalmayacaktır.

Ayrıca, (biz ninja optimizasyonlar dediği) belirli işlemler (matris-matris işlemleri) içinde GPU'ları aynı seviyede CPU'lar kodunu optimize oldukça zor gibi görünüyor. Başkalarının yaşadığı şeylerin daha iyi değerlendirilmeleri için lütfen https://github.com/BVLC/caffe/pull/439 numaralı telefondan görüşmelere bakın.