CUDA küçük çekirdekli 2d evrişim - nasıl yapılır

Question

500x500 görüntü arasında (ancak boyutları da değiştirebilirim) ve çok küçük bir 2B çekirdeği arasında hızlı bir 2B evrimleşmesi gerçekleştirmek için günlerce CUDA çekirdekleriyle denemeler yapıyorum laplacian 2d çekirdeği, yani 3x3 çekirdeği .. tüm cuda iplikleri ile büyük bir avantaj elde etmek için çok küçüktür).

Bir CPU klasik uygulaması oluşturdum (iki tane düşünmek kadar kolay döngü için) ve daha sonra CUDA çekirdekleri oluşturmaya başladım. Birkaç hayal kırıklığı denemeden sonra

Bu kod ile sona erdi daha hızlı bir konvolüsyonunu gerçekleştirmek için: http://www.evl.uic.edu/sjames/cs525/final.html (Paylaşılan Bellek bölümüne bakınız), temelde 16x16 ipler Yükü o paylaşılan hafızada ihtiyaç duyduğu tüm büklüm verilerini engelleyebilir sağlar ve daha sonra konvolüsyonu gerçekleştirir.

Hiçbir şey, CPU hala çok daha hızlı. FFT yaklaşımını denemedim çünkü CUDA SDK, büyük çekirdek boyutlarıyla verimli olduğunu belirtiyor. Eğer yazdığım her şeyi okumak

olsun ya da olmasın, sorum şu:

Ben nispeten büyük görüntü ve CUDA ile çok küçük bir çekirdeğin (3x3) arasında bir hızlı 2B konvolüsyonunu gerçekleştirebilirsiniz nasıl ?

Answer 1

Bu 3x3 çekirdeğin FFT tabanlı yaklaşım için uygun olmadığından haktasınız. Bununla başa çıkmanın en iyi yolu, çekirdeği sabit belleğe itmektir (ya da bir fermi + kart kullanıyorsanız, bu çok fazla önemli olmamalıdır).

Çekirdek boyutunu bildiğinizden, bunu yapmanın en hızlı yolu, giriş görüntüsü/sinyalinin parçalarını paylaşılan belleğe okumak ve açılmış bir çoğaltma işlemi gerçekleştirmek olacaktır.

Eğer ArrayFire ve OpenCV yüksek geliştirme süresi çok kaydedebilirsiniz Konvolusyon rutinleri optimize Bu işlemi gerçekleştirmek için kütüphaneleri kullanmak isteyen varsa -

.

OpenCV'ye fazla aşina değilim, ancak ArrayFire'da aşağıdaki gibi bir şey yapabilirsiniz.

array kernel = array(3, 3, h_kernel, afHost); // Transfer the kernel to gpu 
array image = array(w, h, h_image , afHost); // Transfer the image to gpu 
array result = convolve2(image, kernel);  // Performs 2D convolution 

DÜZENLEME

ArrayFire kullanarak toplu işlem işlemdir ilave faydası paralel kıvrım gerçekleştirmesini sağlar.

-

array kernel = array(3, 3, h_kernel, afHost);  // Transfer the kernel to gpu 
array images = array(w, h, 10, h_images, afHost); // Transfer the images to gpu 
array res = convolve2(images, kernel); // Perform all operations simultaneously 

: 10 görüntüleri olsaydı sen, aşağıdaki gibi somehting yapabileceği aynı çekirdek kullanarak evriştirilir istediğiniz convolvutions Örneğin here

üzerinde toplu işlemleri desteklemek konusunda okuyabilir

Tam Açıklama: AccelerEyes'te çalışıyorum ve ArrayFire üzerinde aktif olarak çalışıyorum.