XGBoost

Extreme Gradient Boosting

Türkçe: Uç / İleri Düzey Gradyan Güçlendirme

Ayrıntılı Tanım

Gradyan güçlendirme algoritmasını ikinci dereceden Taylor açılımı, dahili L1/L2 regülarizasyonu ve donanım düzeyinde paralelleştirme ile optimize eden efsanevi kütüphanedir.

Ne İşe Yarar / Çözülen Problem

Klasik GBM'in yavaş çalışma ve aşırı ezberleme zayıflıklarını ortadan kaldırarak olağanüstü hız ve genelleme kabiliyeti sunar.

Nasıl Çalışır? (Teknik & Mekanizma)

Kayıp fonksiyonunun hem birinci (gradyan

g

) hem ikinci (Hessian

h

) türevini kullanır. Düğümleri budarken karmaşıklık cezası ekler:

\mathcal{L} + \gamma T + \frac{1}{2}\lambda \sum w^2

Örnek Senaryo & Pratik Uygulama

Kaggle veri bilimi yarışmalarında tablo verisi kategorisindeki ödüllerin büyük çoğunluğunu kazanan algoritma mimarisi.

Benzer Terimlerden Farkı

Klasik Gradient Boosting'e göre çok daha hızlıdır, eksik verileri (missing values) kendi kendine yönetir ve doğrudan regülarizasyon içerir.

İlişkili Terimler (3)

Hafif / Hızlı Gradyan Güçlendirme

#30

CART

Sınıflandırma ve Regresyon Ağaçları

Ait Olduğu Kategori

Klasik Makine Öğrenmesi ve İstatistiksel Kuram

Sembolik AI, GOFAI, karar ağaçları, regresyon ve temel istatistiksel modeller.

Toplam Terim:68 Madde

Bu Kategorideki Tüm Terimleri Gör →

Önceki Terim (#38)AdaBoost

Sonraki Terim (#40)LightGBM