Madde #256MoE & SSM/sozluk/token-choice-routing
Token-Choice Routing
Türkçe: Belirteç Seçimli Yönlendirme
Ayrıntılı Tanım
Yönlendirme inisiyatifinin tokenlarda olduğu; **her bir tokenın kendi bakış açısıyla en beğendiği adet uzmanı seçtiği** klasik MoE yönlendirme paradigmasıdır.
Ne İşe Yarar / Çözülen Problem
Her kelimenin kendi anlamsal ihtiyacına en uygun uzmanları özgürce talep etmesini sağlar.
Nasıl Çalışır? (Teknik & Mekanizma)
Her token bağımsız olarak yönlendiriciye girer ve kendi uzmanını belirler. Ancak bu durum bazı popüler uzmanların kapısında izdiham oluşmasına yol açabilir.
Örnek Senaryo & Pratik Uygulama
Üniversite ders kaydı haftası: Her öğrencinin (token) kendi istediği profesörün (uzman) dersine kaydolmaya çalışması; popüler hocaların kontenjanının saniyeler içinde patlaması.
Benzer Terimlerden Farkı
Expert-Choice yönlendirmenin tam tersidir; burada seçimi uzmanlar değil tokenlar yapar.
İlişkili Terimler (3)
Seyrek, Koşullu ve Hibrit Mimariler
Mixture of Experts (MoE), State Space Models (Mamba), RWKV ve hibrit ağlar.
Toplam Terim:29 Madde
Bu Kategorideki Tüm Terimleri Gör →Önceki Terim (#255)Top-K Routing
Sonraki Terim (#257)Expert-Choice Routing