Madde #166Transformers/sozluk/key-k
Key (K)
Key Matrix / Vector (K)
Türkçe: Anahtar Vektörü
Ayrıntılı Tanım
Cümledeki her bir tokenın "Bende hangi özellikler var? Bana ne zaman dikkat edilmeli?" sorusunu yanıtlayan kimlik ve etiket vektörüdür.
Ne İşe Yarar / Çözülen Problem
Query ile eşleşerek o kelimenin o bağlamda ne kadar önemli olduğunu belirleyen benzerlik skorunun (Attention Score) hesaplanmasını sağlar.
Nasıl Çalışır? (Teknik & Mekanizma)
Girdi token gömmesi, öğrenilebilir anahtar matrisiyle çarpılır:
Query ile Key'in iç çarpımı () ne kadar büyükse, iki kelime birbiriyle o kadar alakalı demektir.
Örnek Senaryo & Pratik Uygulama
Kütüphanedeki kitapların sırtında yazan konu başlığı ve katalog numaraları: Arama yapan kişinin aradığı konuyla uyuşursa kitap raftan çekilir.
Benzer Terimlerden Farkı
Bilginin kendisini taşımaz; sadece sorgunun o bilgiye ulaşıp ulaşamayacağını denetleyen katalog etiketidir.
İlişkili Terimler (3)
Transformer Mimarisi ve Dikkat Mekanizmaları
Self-attention, Multi-Head Attention, RoPE, KV-Cache ve Transformer anatomisi.
Toplam Terim:37 Madde
Bu Kategorideki Tüm Terimleri Gör →Önceki Terim (#165)Query (Q)
Sonraki Terim (#167)Value (V)