Tensor Cores

NVIDIA Tensor Cores (Volta Mimarisi ve Sonrası)

Türkçe: Tensör Çekirdekleri

Ayrıntılı Tanım

NVIDIA GPU'larında standart CUDA çekirdeklerinden ayrı olarak konumlandırılan; tek bir saat vuruşunda bütün bir

4 \times 4

veya

16 \times 16

küçük matris çarpımını ve toplamasını (

D = A \times B + C

) donanımsal olarak tek adımda tamamlayan özel silikon birimleridir.

Ne İşe Yarar / Çözülen Problem

Standart CUDA çekirdeklerine kıyasla derin öğrenme matris hesaplamalarını 5 ila 10 kat hızlandırır; karma hassasiyetli (Mixed Precision) eğitimin temelidir.

Nasıl Çalışır? (Teknik & Mekanizma)

İki matrisi düşük hassasiyette (örneğin FP16 veya FP8) çarpar, sonucu ise sayısal taşmayı önlemek için yüksek hassasiyette (FP32) biriktirir (accumulate).

Örnek Senaryo & Pratik Uygulama

Standart bir matbaa presi: Harfleri tek tek dizip basmak (standart çekirdek) yerine; önceden hazırlanmış koca bir metal kalıbı (Tensör çekirdeği) kağıdın üzerine tek bir vuruşta küt diye basıp sayfayı çıkarmak.

Benzer Terimlerden Farkı

Standart CUDA çekirdeği skaler sayılarla (tek tek