Madde #85Derin Öğrenme/sozluk/relu
ReLU
Rectified Linear Unit
Türkçe: Düzeltilmiş Doğrusal Birim
Ayrıntılı Tanım
Negatif girdiler için kesinlikle 0, pozitif girdiler içinse girdinin bizzat kendisini () döndüren; derin öğrenme devrimini başlatan parçalı doğrusal aktivasyon fonksiyonudur.
Ne İşe Yarar / Çözülen Problem
Pozitif bölgede türevi daima sabit 1 olduğu için gradyan kaybolması (vanishing gradient) problemini kökünden çözer; hesaplaması son derece ucuzdur.
Nasıl Çalışır? (Teknik & Mekanizma)
Üstel hesaplama gerektirmez; basit bir eşik kontrolüdür (`if x > 0 return x else 0`).
Örnek Senaryo & Pratik Uygulama
Tek yönlü elektrik diyotu: Negatif akımı tamamen kesip sıfırlar, pozitif akımı ise hiç engellemeden olduğu gibi geçirir.
Benzer Terimlerden Farkı
Sigmoid ve Tanh gibi bükümlü ve doygunluğa ulaşan bir eğri değildir; ancak negatif tarafta türevi sıfır olduğu için "Ölü ReLU" (Dying ReLU) riski taşır.
İlişkili Terimler (3)
Derin Öğrenme Temelleri ve Temsil Öğrenmesi
Yapay sinir ağları, aktivasyon fonksiyonları, geri yayılım ve tensör temelleri.
Toplam Terim:52 Madde
Bu Kategorideki Tüm Terimleri Gör →Önceki Terim (#84)Hyperbolic Tangent (Tanh)
Sonraki Terim (#86)LeakyReLU