Madde #89Derin Öğrenme/sozluk/glu
GLU
Gated Linear Unit
Türkçe: Kapılı Doğrusal Birim
Ayrıntılı Tanım
Bir katmanın çıktısını iki ayrı doğrusal projeksiyona bölüp, birini doğrudan geçirirken diğerini kapı görevi görmesi için bir aktivasyon fonksiyonundan geçirerek ikisini eleman bazında çarpan mekanizmadır.
Ne İşe Yarar / Çözülen Problem
Sinir ağının hangi bilgileri ileriye aktaracağına, hangi bilgileri filtreleyip sileceğine dinamik olarak kendi kapılarıyla karar vermesini sağlar.
Nasıl Çalışır? (Teknik & Mekanizma)
Sigmoid kapısıdır ve 0 ile 1 arasında geçirgenlik katsayısı üretir.
Örnek Senaryo & Pratik Uygulama
Güvenlikli geçiş turnikesi: Bir koridorda yürürsünüz ama kapı turnikesi (gate) onay vermezse koridorun sonundaki odaya geçemezsiniz.
Benzer Terimlerden Farkı
Standart fonksiyonlar tek bir vektörü dönüştürürken, GLU iki ayrı doğrusal dönüşümün birbiriyle çarpışmasıyla çalışır.
İlişkili Terimler (2)
Derin Öğrenme Temelleri ve Temsil Öğrenmesi
Yapay sinir ağları, aktivasyon fonksiyonları, geri yayılım ve tensör temelleri.
Toplam Terim:52 Madde
Bu Kategorideki Tüm Terimleri Gör →Önceki Terim (#88)GELU
Sonraki Terim (#90)SwiGLU