Madde #7ML & Kuram/sozluk/full-batch-gradient-descent

Full-Batch Gradient Descent

Full-Batch Gradient Descent (Batch Gradient Descent)

Türkçe: Tam Yığın Gradyan İnişi
Ayrıntılı Tanım
Bir modelin parametrelerini güncellemek için tüm eğitim veri setini tek seferde işleyip toplam kaybın türevini hesaplayan en temel optimizasyon algoritmasıdır.
Ne İşe Yarar / Çözülen Problem
Hata fonksiyonunun minimum noktasına kararlı ve titreşimsiz bir şekilde matematiksel olarak doğru yönde inmeyi garanti eder.
Nasıl Çalışır? (Teknik & Mekanizma)
Parametre güncellemesi: θ=θ−η⋅1N∑i=1N∇Li(θ)\theta = \theta - \eta \cdot \frac{1}{N}\sum_{i=1}^{N} \nabla L_i(\theta) Her adımda tüm veri taranır, ortalama gradyan bulunur ve adım atılır.
Örnek Senaryo & Pratik Uygulama
Tepeden vadiye inmeye çalışan bir dağcı benzetimi: Dağcı her adım atmadan önce tüm haritayı santim santim inceler, en dik iniş açısını bulur ve bir adım atar.
Benzer Terimlerden Farkı
Tek tek örnek alan SGD'den ve küçük gruplar alan Mini-batch SGD'den farkı, her adımda veri setinin tamamını zorunlu kılmasıdır.
İlişkili Terimler (3)
Ait Olduğu Kategori

Klasik Makine Öğrenmesi ve İstatistiksel Kuram

Sembolik AI, GOFAI, karar ağaçları, regresyon ve temel istatistiksel modeller.

Toplam Terim:68 Madde
Bu Kategorideki Tüm Terimleri Gör →
Önceki Terim (#6)Neuro-Symbolic AI
Sonraki Terim (#8)Stochastic Gradient Descent (SGD)