Madde #474Donanım & GPU/sozluk/nvlink-nvswitch
NVLink & NVSwitch
NVIDIA NVLink & NVSwitch Interconnect
Türkçe: NVLink ve NVSwitch Yüksek Hızlı Ara Bağlantısı
Ayrıntılı Tanım
Standart PCI-e veri yollarının düşük bant genişliğini aşarak; birden fazla GPU'yu doğrudan birbirine bağlayan ve saniyede yüzlerce gigabaytlık (H100'de çift yönlü 900 GB/s) ultra hızlı veri transferi sağlayan NVIDIA'nın tescilli donanım veri yoludur.
Ne İşe Yarar / Çözülen Problem
Tensör paralelliği (Tensor Parallelism) yaparken GPU'ların birbirine devasa ara matrisleri gecikmesiz fırlatabilmesini sağlar; 8 GPU'nun tek bir dev GPU gibi davranmasının temelidir.
Nasıl Çalışır? (Teknik & Mekanizma)
NVSwitch çipleri sunucu anakartına yerleştirilir ve tüm GPU'lar arasında tam çapraz (all-to-all crossbar) bağlantı kurar. Veri ana CPU'ya veya sistem belleğine hiç uğramadan doğrudan GPU'dan GPU'ya uçar.
Örnek Senaryo & Pratik Uygulama
İki komşu ada arasına vapur koymak (PCI-e) yerine; adalar arasına 16 şeritli ekspres bir asma köprü inşa edip araçların durmaksızın karşıya geçmesini sağlamak (NVLink).
Benzer Terimlerden Farkı
Standart PCI-e yuvalarına göre 5 ila 7 kat daha yüksek bant genişliği sunar; süper bilgisayar kümelerinin omurgasıdır.
İlişkili Terimler (3)
Donanım, Hesaplama Mimarisi ve GPU Hızlandırma
NVIDIA GPU mimarileri, TPU, Tensor Core, HBM, FP8/FP16 hesaplama ve CUDA.
Toplam Terim:30 Madde
Bu Kategorideki Tüm Terimleri Gör →Önceki Terim (#473)SRAM vs. DRAM / HBM
Sonraki Terim (#475)InfiniBand vs. RoCE