OpenMP ile hiper iş parçacığı nedeniyle yetersiz performans: iş parçacıklarının çekirdeklere nasıl bağlanacağı

Question

Büyük yoğun matris çarpma kodu geliştiriyorum. Kodu görüntülediğimde, bazen dört çekirdek sistemimin tepe noktalarının yaklaşık% 75'ini alır ve diğer zamanlarda yaklaşık% 36 olur. Verimlilik, kodun yürütmeleri arasında değişmez. Ya% 75 ile başlar ve bu verimlilikle devam eder veya% 36 da başlar ve bu verimlilik ile devam eder.

Sorunu hiper-iş parçacığına ve iş parçacığı sayısını varsayılan sekiz yerine dört olarak ayarladığım gerçeğine kadar izledim. BIOS'ta hiper iş parçacığı devre dışı bıraktığımda sürekli olarak yaklaşık% 75 verimlilik elde ediyorum (ya da en azından hiç bir zaman ciddi düşüşü% 36'ya kadar göremiyorum).

herhangi paralel kod aramadan önce ben omp_set_num_threads(4) yapmak. Kodumu çalıştırmadan önce export OMP_NUM_THREADS=4'u denedim ancak eşdeğer gibi görünüyor.

BIOS'ta hiper iş parçacığı devre dışı bırakmak istemiyorum. Dört parçayı dört çekirdeğe bağlaman gerektiğini düşünüyorum. GOMP_CPU_AFFINITY'un bazı farklı durumlarını test ettim ancak şu ana kadar verim hala% 36'dır. Hiper iş parçacığı ve çekirdeklerle eşleştirme nedir? E.g. iş parçacığı 0 ve iş parçacığı 1 aynı çekirdek ve iş parçacığı 2 ve iş parçacığı 3 başka bir çekirdeğe karşılık gelir mi?

nasıl BIOS içinde hiper iş parçacığı devre dışı bırakmak zorunda kalmamak için ben iplik göç etmeden her çekirdeğe konuları bağlayabilir? Belki sched_setaffinity kullanmam gerekiyor mu? benim şimdiki sistemin

bazı ayrıntılar: Linux çekirdeği 3.13, GCC 4.8 Intel Xeon E5-1620 (dört fiziksel çekirdek, sekiz hiper iş parçacığı).

Düzenleme: These options: Bu aynı zamanda görünüyor iyi

export OMP_PROC_BIND=true 

Düzenleme çalışmak: Bu

export GOMP_CPU_AFFINITY="0 1 2 3 4 5 6 7" 

veya

export GOMP_CPU_AFFINITY="0-7" 

Düzenleme şimdiye kadar iyi çalışıyor gibi görünüyor de iyi iş (gemm adıdır) Benim yürütülebilir

numactl -C 0,1,2,3 ./gemm 

ve

taskset -c 0,1,2,3 ./gemm 

Answer 1

Bu sorunuza doğrudan bir cevap değil, ama hiç bakarak değer olabilir: apparently, hyperthreading can cause your cache to thrash. Soruna ne tür bir sorunun neden olduğunu görmek için valgeri kontrol etmeye çalıştın mı? Her iş parçacığının yığınının üstüne biraz önemsiz ayırmaktan kurtulmak için hızlı bir düzeltme olabilir, böylece iş parçacıklarınız birbirlerinin önbellek çizgilerini tekmelemeye son vermez.

It looks like your CPU is 4-way set associative Bu yüzden, 8 ileti dizisinde, gerçekten ne yazık ki hizalanmış erişimlerle sonuçlanabileceğini düşünmek saçma değildir. Matrisleriniz önbelleğinizin büyüklüğünün bir katına hizalıysa ve bölgelere çiftleri birbirinden farklı bir şekilde ayırma çiftleri olsaydı, üçüncü bir iş parçacığı tarafından yapılan tesadüfi okumalar, çakışmalara neden olmaya başlamak için yeterli olur.

Hızlı bir test için - giriş matrislerinizi önbellek boyutunuzun katları olmayan bir değere dönüştürdüğünüzde (yani artık bir sınırda olmadıkları için) ve sorunlarınız kaybolursa, o zaman sizin için iyi bir şans vardır. Çatışmalarla ilgileniyor. İhracat GOMP_CPU_AFFINITY yana