Madde #24ML & Kuram/sozluk/l1-regularization

L1 Regularization

L1 Regularization (Lasso Penalty)

Türkçe: L1 Regülarizasyonu
Ayrıntılı Tanım
Aşırı öğrenmeyi engellemek için kayıp fonksiyonuna model ağırlıklarının mutlak değerlerinin toplamını ceza terimi olarak ekleyen tekniktir.
Ne İşe Yarar / Çözülen Problem
Önemsiz değişkenlerin katsayılarını tam olarak sıfır yaparak otomatik nitelik seçimi (feature selection) sağlar ve seyrek (sparse) model üretir.
Nasıl Çalışır? (Teknik & Mekanizma)
LossL1=Loss0+λ∑∣wi∣Loss_{L1} = Loss_0 + \lambda \sum |w_i| Geometrik olarak köşeli elmas kısıt bölgesi parametreleri tam sıfır ekseninde kesişmeye zorlar.
Örnek Senaryo & Pratik Uygulama
1000 farklı genetik veriden hastalığa sebep olan en kritik 5 geni bulmak için diğer 995 genin katsayısını sıfırlamak.
Benzer Terimlerden Farkı
L2 ağırlıkları küçültür ama asla sıfır yapmaz; L1 ise doğrudan sıfırlar.
İlişkili Terimler (3)
Ait Olduğu Kategori

Klasik Makine Öğrenmesi ve İstatistiksel Kuram

Sembolik AI, GOFAI, karar ağaçları, regresyon ve temel istatistiksel modeller.

Toplam Terim:68 Madde
Bu Kategorideki Tüm Terimleri Gör →
Önceki Terim (#23)Overfitting
Sonraki Terim (#25)Lasso