Madde #248MoE & SSM/sozluk/gating-network

Gating Network

Türkçe: Kapılama Ağı
Ayrıntılı Tanım
Yönlendirici ağ ile eşanlamlı kullanılan veya yönlendiricinin ürettiği uzman skorlarını Softmax veya Sigmoid benzeri fonksiyonlarla 0 ile 1 arasında geçirgenlik katsayılarına dönüştüren modüldür.
Ne İşe Yarar / Çözülen Problem
Uzmanların çıktılarını birleştirirken hangi uzmanın sözüne ne kadar güvenileceğini (oy ağırlığını) belirler.
Nasıl Çalışır? (Teknik & Mekanizma)
Kapı çıktısı G(x)=Softmax(KeepTopK(H(x),k))G(x) = \text{Softmax}(\text{KeepTopK}(H(x), k)) formülüyle çalışır; seçilmeyen uzmanların kapı katsayısı kesin olarak 00 yapılır.
Örnek Senaryo & Pratik Uygulama
Ses mikserindeki kanalların ses seviyesi sürgüleri: Seçilen iki solistin sesini açıp, diğer 6 enstrümanın sesini tamamen kısmak.
Benzer Terimlerden Farkı
Sadece kimi seçeceğine değil, seçilenlerin nihai cevaba ne oranda katkı yapacağına karar verir.
İlişkili Terimler (3)
Ait Olduğu Kategori

Seyrek, Koşullu ve Hibrit Mimariler

Mixture of Experts (MoE), State Space Models (Mamba), RWKV ve hibrit ağlar.

Toplam Terim:29 Madde
Bu Kategorideki Tüm Terimleri Gör →
Önceki Terim (#247)Router Network
Sonraki Terim (#249)Router Collapse