Chain Rule

The Chain Rule of Calculus

Türkçe: Zincir Kuralı

Ayrıntılı Tanım

Bileşke fonksiyonların türevini hesaplamak için kullanılan; ara değişkenlerin türevlerinin ardışık olarak birbiriyle çarpılmasını sağlayan kalkülüs ilkesidir.

Ne İşe Yarar / Çözülen Problem

Derin sinir ağlarında iç içe geçmiş onlarca katmanın en derindeki ilk ağırlığına kadar hatanın türevini adım adım ulaştırmayı mümkün kılar.

Nasıl Çalışır? (Teknik & Mekanizma)

Eğer

y = f(u)

u = g(x)

ise:

\frac{dy}{dx} = \frac{dy}{du} \cdot \frac{du}{dx}

Sinir ağında bu çarpım zinciri onlarca katman boyunca uzar:

\frac{\partial Loss}{\partial w_1} = \frac{\partial Loss}{\partial y} \cdot \frac{\partial y}{\partial h_n} \cdots \frac{\partial h_2}{\partial h_1} \cdot \frac{\partial h_1}{\partial w_1}

Örnek Senaryo & Pratik Uygulama

Dişli çark mekanizması: 1. çark dönerse 2. çarkı döndürür, o da 3. çarkı döndürür. 1. çarktaki en ufak oynamanın 3. çarka etkisini bulmak için aradaki dişli oranlarını peş peşe çarpmak.

Benzer Terimlerden Farkı

Backpropagation'ın arkasındaki saf matematiksel motordur.

İlişkili Terimler (3)

#73

Backpropagation

Geriye Yayılım Algoritması

#81

Vanishing Gradients

Gradyan Kaybolması / Sönümlenmesi Problemi

#82

Exploding Gradients

Gradyan Patlaması Problemi

Ait Olduğu Kategori

Derin Öğrenme Temelleri ve Temsil Öğrenmesi

Yapay sinir ağları, aktivasyon fonksiyonları, geri yayılım ve tensör temelleri.

Toplam Terim:52 Madde

Bu Kategorideki Tüm Terimleri Gör →

Önceki Terim (#73)Backpropagation

Sonraki Terim (#75)Activation Checkpointing