ELU

Exponential Linear Unit

Türkçe: Üstel Doğrusal Birim

Ayrıntılı Tanım

Pozitif girdiler için aynen geçen, negatif girdilerde ise sıfır yerine yumuşak bir üstel fonksiyonla negatif bir asimptota (

-\alpha

) yaklaşan aktivasyon fonksiyonudur.

Ne İşe Yarar / Çözülen Problem

LeakyReLU gibi ölü nöron problemini çözerken, negatif tarafta yumuşak bir doyum sağlayarak gürültüye karşı bağışıklık kazandırır ve ortalama çıktıyı sıfıra yaklaştırır.

Nasıl Çalışır? (Teknik & Mekanizma)

f(x) = \begin{cases} x & \text{eğer } x > 0 \\ \alpha(e^x - 1) & \text{eğer } x \le 0 \end{cases}

Sıfır noktasında pürüzsüz bir geçiş sunar.

Örnek Senaryo & Pratik Uygulama

Yumuşak fren balatası: Arabanın aniden zınk diye durması (ReLU) yerine, basıldıkça yumuşayarak konforlu bir yavaşlama sunması.

Benzer Terimlerden Farkı

LeakyReLU gibi negatifte sonsuza uzanmaz;

-\alpha

sınırına yumuşakça yaslanır. Ancak üstel işlem (

e^x

) içerdiği için ReLU'dan biraz daha yavaştır.

İlişkili Terimler (3)

#85

ReLU

Düzeltilmiş Doğrusal Birim

Gauss Hata Doğrusal Birimi

Ait Olduğu Kategori

Derin Öğrenme Temelleri ve Temsil Öğrenmesi

Yapay sinir ağları, aktivasyon fonksiyonları, geri yayılım ve tensör temelleri.

Toplam Terim:52 Madde

Bu Kategorideki Tüm Terimleri Gör →

Önceki Terim (#86)LeakyReLU

Sonraki Terim (#88)GELU