Sözlüğe Dön/Klasik Makine Öğrenmesi ve İstatistiksel Kuram/Mini-Batch SGD
#8 Stochastic Gradient Descent (SGD)#10 Momentum
Madde #9ML & Kuram/sozluk/mini-batch-sgd

Mini-Batch SGD

Mini-Batch Stochastic Gradient Descent

Türkçe: Küçük Yığın Stokastik Gradyan İnişi
Ayrıntılı Tanım
Veriyi ne tek tek ne de bütünüyle alan; 32, 64, 128 gibi küçük paketler (mini-batch) halinde işleyerek gradyan hesaplayan modern derin öğrenmenin fiili standardı olan yöntemdir.
Ne İşe Yarar / Çözülen Problem
Full-batch'in bellek hantallığı ile saf SGD'nin aşırı savrulma/gürültü problemini mükemmel bir dengede buluşturur; GPU'ların paralel hesaplama gücünü tam kullanır.
Nasıl Çalışır? (Teknik & Mekanizma)
Veri BB boyutundaki bloklara bölünür: θ=θ−η⋅1∣B∣∑i∈B∇Li(θ)\theta = \theta - \eta \cdot \frac{1}{|B|}\sum_{i \in B} \nabla L_i(\theta)
Örnek Senaryo & Pratik Uygulama
Fabrikada kalite kontrol: Ne tüm fabrikayı tek tek gezmek ne de tek bir ürüne bakıp karar vermek; 50'şerli numune gruplarını banda koyup hızlıca analiz etmek.
Benzer Terimlerden Farkı
Full-Batch ve SGD'nin tam ortasında yer alan optimum mühendislik standardıdır.
İlişkili Terimler (3)
#7
Full-Batch Gradient Descent
Tam Yığın Gradyan İnişi
#8
Stochastic Gradient Descent (SGD)
Stokastik (Rastlantısal) Gradyan İnişi
#14
Adam (Adaptive Moment Estimation)
Uyarlanabilir Moment Tahmini
Ait Olduğu Kategori

Klasik Makine Öğrenmesi ve İstatistiksel Kuram

Sembolik AI, GOFAI, karar ağaçları, regresyon ve temel istatistiksel modeller.

Toplam Terim:68 Madde
Bu Kategorideki Tüm Terimleri Gör →
Önceki Terim (#8)Stochastic Gradient Descent (SGD)
Sonraki Terim (#10)Momentum