Madde #472Donanım & GPU/sozluk/high-bandwidth-memory-hbm

High Bandwidth Memory (HBM)

High Bandwidth Memory (HBM3 / HBM3e)

Türkçe: Yüksek Bant Genişlikli Bellek
Ayrıntılı Tanım
Bellek yongalarını anakart üzerine yatay yaymak yerine; silikon ara katmanlar (interposer) üzerinde dikey olarak üst üste dizen (3D-stacked) ve binlerce bitlik devasa veri yollarıyla GPU'ya doğrudan bağlanan ultra hızlı sunucu belleğidir.
Ne İşe Yarar / Çözülen Problem
Klasik GDDR6 belleklerin saniyede 1 TB sınırında tıkanması krizini çözer; modern yapay zekâ GPU'larında (A100, H100, B200) saniyede 3 ila 8 Terabaytlık akıl almaz veri transfer hızlarına ulaşılmasını sağlar.
Nasıl Çalışır? (Teknik & Mekanizma)
Silikon İçi Delikler (Through-Silicon Vias - TSV) kullanılarak bellek katmanları dikey olarak birbirine bağlanır. 1024-bitlik geniş veri yollarıyla GPU işlemci kalıbının hemen yanına mikrometre mesafede yerleştirilir.
Örnek Senaryo & Pratik Uygulama
Şehirdeki binaları kilometrelerce alana yayıp aralarına dar sokaklar yapmak (GDDR) yerine; gökdelenleri yan yana dikip aralarına ekspres asansörler ve köprüler kurarak insanların saniyede bir kattan diğerine geçmesini sağlamak (HBM).
Benzer Terimlerden Farkı
Tüketici ekran kartlarındaki GDDR belleklerden katbekat daha hızlıdır ancak üretimi çok daha pahalı ve termal olarak zordur.
İlişkili Terimler (3)
Ait Olduğu Kategori

Donanım, Hesaplama Mimarisi ve GPU Hızlandırma

NVIDIA GPU mimarileri, TPU, Tensor Core, HBM, FP8/FP16 hesaplama ve CUDA.

Toplam Terim:30 Madde
Bu Kategorideki Tüm Terimleri Gör →
Önceki Terim (#471)Roofline Model
Sonraki Terim (#473)SRAM vs. DRAM / HBM