Madde #398Kuantalama & Dağıtım/sozluk/pruning

Pruning

Neural Network Pruning

Türkçe: Nöron ve Ağırlık Budama
Ayrıntılı Tanım
Eğitilmiş bir sinir ağındaki tahmine ve sonuca neredeyse hiç katkı sağlamayan önemsiz ağırlıkları, bağlantıları veya bütün bir dikkat başlığını/nöron grubunu sıfırlayarak veya fiziksel olarak modelden söküp atma işlemidir.
Ne İşe Yarar / Çözülen Problem
Modeldeki muazzam bilgi fazlalığını (redundancy) ortadan kaldırır; bellek boyutunu küçültür ve seyrek matris hızlandırması sağlar.
Nasıl Çalışır? (Teknik & Mekanizma)
* **Yapılandırılmamış (Unstructured):** Eşik altındaki bireysel ağırlıklar sıfırlanır (yüksek seyreklik ama özel donanım ister). * **Yapılandırılmış (Structured):** Komple satırlar, sütunlar veya tüm nöronlar silinir (standart GPU'larda doğrudan hız kazandırır).
Örnek Senaryo & Pratik Uygulama
Bir meyve ağacının fazla, kurumuş ve güneşi engelleyen dallarını budayan bir bahçıvan: Ağacın gövdesi küçülür ama kalan dallar çok daha gür ve kaliteli meyve verir.
Benzer Terimlerden Farkı
Kuantalama sayıların hassasiyetini düşürür; Budama ise doğrudan gereksiz bağlantıları kesip atar.
İlişkili Terimler (2)
Ait Olduğu Kategori

Model Sıkıştırma, Kuantalama ve Dağıtım/Çıkarım

Quantization (INT8/4), Pruning, Distillation, TensorRT, vLLM ve ONNX çıkarımı.

Toplam Terim:30 Madde
Bu Kategorideki Tüm Terimleri Gör →
Önceki Terim (#397)Quantization
Sonraki Terim (#399)Post-Training Quantization (PTQ)