Madde #475Donanım & GPU/sozluk/infiniband-vs-roce
InfiniBand vs. RoCE
InfiniBand vs. RDMA over Converged Ethernet (RoCE)
Türkçe: InfiniBand ve RoCE Küme İletişim Protokolleri
Ayrıntılı Tanım
Farklı sunuculardaki (nodes) binlerce GPU'nun birbiriyle ağ üzerinden doğrudan bellek kopyalaması (RDMA) yaparak haberleşmesini sağlayan iki süper bilgisayar ağı standardıdır:
* **InfiniBand:** Sıfırdan süper bilgisayarlar için tasarlanmış, ultra düşük gecikmeli, donanımsal akış kontrollü pahalı ağ teknolojisi.
* **RoCE:** Klasik ve ucuz Ethernet altyapısı üzerinde RDMA protokolünü çalıştıran alternatif kurumsal ağ standardı.
Ne İşe Yarar / Çözülen Problem
Dağıtık eğitimde (Distributed Training) sunucular arasındaki veri aktarımının GPU'ları bekletip eğitimi felç etmesini engeller.
Nasıl Çalışır? (Teknik & Mekanizma)
RDMA (Remote Direct Memory Access) kullanılır: Sunucu A'nın GPU belleğindeki bir tensör, hiçbir CPU veya işletim sistemi çekirdeğine takılmadan doğrudan ağ kartı üzerinden Sunucu B'nin GPU belleğine yazılır.
Örnek Senaryo & Pratik Uygulama
Uluslararası hızlı kargo: Paketlerin şehirlerdeki gümrük ve posta dağıtım merkezlerine hiç uğramadan (CPU'yu atlayarak), doğrudan havaalanından alıcının kapısına ışınlanması.
Benzer Terimlerden Farkı
InfiniBand sıfır paket kaybı garantisiyle en yüksek performansı verir; RoCE ise mevcut kurumsal Ethernet kablolarını kullanarak maliyeti yarıya düşürür.
İlişkili Terimler (2)
Donanım, Hesaplama Mimarisi ve GPU Hızlandırma
NVIDIA GPU mimarileri, TPU, Tensor Core, HBM, FP8/FP16 hesaplama ve CUDA.
Toplam Terim:30 Madde
Bu Kategorideki Tüm Terimleri Gör →Önceki Terim (#474)NVLink & NVSwitch
Sonraki Terim (#476)PCIe Gen 4 / Gen 5