Softplus

Softplus Function

Türkçe: Yumuşak Artı Fonksiyonu

Ayrıntılı Tanım

ReLU fonksiyonunun her noktada tamamen pürüzsüz ve sürekli türevlenebilir olan yumuşak matematiksel ikizidir.

Ne İşe Yarar / Çözülen Problem

ReLU'nun

x=0

noktasındaki ani kırılması matematiksel olarak tanımsızdır (alt gradyan gerektirir). Softplus sıfır noktasını pürüzsüz bir kavisle aşar.

Nasıl Çalışır? (Teknik & Mekanizma)

f(x) = \ln(1 + e^x)

Türevi doğrudan Sigmoid fonksiyonuna eşittir:

\frac{d}{dx}\text{Softplus}(x) = \sigma(x)

Örnek Senaryo & Pratik Uygulama

Keskin bir virajın (ReLU), yol mühendisleri tarafından ovalleştirilerek yumuşak bir kavis haline getirilmesi (Softplus).

Benzer Terimlerden Farkı

ReLU'ya çok benzer ama asla tam sıfır olmaz; daima pozitif kalır ve logaritmik işlem maliyeti taşır.

İlişkili Terimler (3)

Ait Olduğu Kategori

Yapay sinir ağları, aktivasyon fonksiyonları, geri yayılım ve tensör temelleri.

Toplam Terim:52 Madde