Sözlüğe Dön/Seyrek, Koşullu ve Hibrit Mimariler/Selective State Space Model
#264 Structured State Space Sequence Model (S4)#266 Mamba
Madde #265MoE & SSM/sozluk/selective-state-space-model

Selective State Space Model

Türkçe: Seçici Durum Uzayı Modeli
Ayrıntılı Tanım
Standart durum uzayı modellerindeki matrislerin (A,B,CA, B, C) zamandan ve girdiden bağımsız sabit katsayılar olması kısıtını yıkarak; bu katsayıları **anlık girdi verisine göre dinamik olarak değiştiren (seçici kılan)** mekanizmadır.
Ne İşe Yarar / Çözülen Problem
Klasik SSM'lerin dildeki bağlama göre "hangi bilgiyi saklayıp, hangi çöp bilgiyi sileceğini" seçememesi sorununu çözer; Mamba'nın temel felsefesidir.
Nasıl Çalışır? (Teknik & Mekanizma)
B,CB, C ve zaman adımı Δ\Delta parametreleri sabit matrisler olmaktan çıkarılıp girdinin bir fonksiyonu haline getirilir: B=Linear(x)B = \text{Linear}(x), Δ=Softplus(Parameter+Linear(x))\Delta = \text{Softplus}(\text{Parameter} + \text{Linear}(x)). Böylece model alakasız tokenları durum hafızasına hiç yazmaz.
Örnek Senaryo & Pratik Uygulama
Bir öğrencinin ders dinlerken hocanın her söylediğini kaydetmek yerine; önemli formülleri görünce kulak kabartıp (yüksek Δ\Delta), hocanın anlattığı fıkralarda zihnini kapatması (sıfır Δ\Delta).
Benzer Terimlerden Farkı
Zamanla değişmeyen (LTI) sistemlerin aksine girdi-duyarlı (input-dependent) dinamik bir filtredir.
İlişkili Terimler (3)
#266
Mamba
Mamba Mimarisi
#264
Structured State Space Sequence Model (S4)
Yapılandırılmış Durum Uzayı Dizilim Modeli
#263
State Space Models (SSM)
Durum Uzayı Modelleri
Ait Olduğu Kategori

Seyrek, Koşullu ve Hibrit Mimariler

Mixture of Experts (MoE), State Space Models (Mamba), RWKV ve hibrit ağlar.

Toplam Terim:29 Madde
Bu Kategorideki Tüm Terimleri Gör →
Önceki Terim (#264)Structured State Space Sequence Model (S4)
Sonraki Terim (#266)Mamba