Madde #84Derin Öğrenme/sozluk/hyperbolic-tangent-tanh

Hyperbolic Tangent (Tanh)

Hyperbolic Tangent Function

Türkçe: Hiperbolik Tanjant Fonksiyonu
Ayrıntılı Tanım
Girdileri -1 ile +1 arasına sıkıştıran, Sigmoid'e benzeyen ancak ondan farklı olarak **sıfır merkezli (zero-centered)** olan aktivasyon fonksiyonudur.
Ne İşe Yarar / Çözülen Problem
Sigmoid'in ortalamasının daima pozitif çıkması yüzünden gradyanların eğitimde zikzak çizmesi sorununu çözer; eğitimi hızlandırır.
Nasıl Çalışır? (Teknik & Mekanizma)
tanh⁡(x)=ex−e−xex+e−x=2σ(2x)−1\tanh(x) = \frac{e^x - e^{-x}}{e^x + e^{-x}} = 2\sigma(2x) - 1 Girdi 0 olduğunda çıktı tam olarak 0'dır.
Örnek Senaryo & Pratik Uygulama
Mıknatıs kutupları: Hem itme gücünü (-1) hem çekme gücünü (+1) hem de nötr denge durumunu (0) tek bir fonksiyonda temsil etmek.
Benzer Terimlerden Farkı
Sigmoid [0, 1] verirken Tanh [-1, +1] verir. Ancak Tanh da uç noktalarda doyum bölgesine girdiği için gradyan kaybolması sorununu tamamen çözemez.
İlişkili Terimler (3)
Ait Olduğu Kategori

Derin Öğrenme Temelleri ve Temsil Öğrenmesi

Yapay sinir ağları, aktivasyon fonksiyonları, geri yayılım ve tensör temelleri.

Toplam Terim:52 Madde
Bu Kategorideki Tüm Terimleri Gör →
Önceki Terim (#83)Sigmoid
Sonraki Terim (#85)ReLU