Madde #166Transformers/sozluk/key-k

Key (K)

Key Matrix / Vector (K)

Türkçe: Anahtar Vektörü
Ayrıntılı Tanım
Cümledeki her bir tokenın "Bende hangi özellikler var? Bana ne zaman dikkat edilmeli?" sorusunu yanıtlayan kimlik ve etiket vektörüdür.
Ne İşe Yarar / Çözülen Problem
Query ile eşleşerek o kelimenin o bağlamda ne kadar önemli olduğunu belirleyen benzerlik skorunun (Attention Score) hesaplanmasını sağlar.
Nasıl Çalışır? (Teknik & Mekanizma)
Girdi token gömmesi, öğrenilebilir anahtar matrisiyle çarpılır: K=xWKK = x W_K Query ile Key'in iç çarpımı (Q⋅KTQ \cdot K^T) ne kadar büyükse, iki kelime birbiriyle o kadar alakalı demektir.
Örnek Senaryo & Pratik Uygulama
Kütüphanedeki kitapların sırtında yazan konu başlığı ve katalog numaraları: Arama yapan kişinin aradığı konuyla uyuşursa kitap raftan çekilir.
Benzer Terimlerden Farkı
Bilginin kendisini taşımaz; sadece sorgunun o bilgiye ulaşıp ulaşamayacağını denetleyen katalog etiketidir.
İlişkili Terimler (3)
Ait Olduğu Kategori

Transformer Mimarisi ve Dikkat Mekanizmaları

Self-attention, Multi-Head Attention, RoPE, KV-Cache ve Transformer anatomisi.

Toplam Terim:37 Madde
Bu Kategorideki Tüm Terimleri Gör →
Önceki Terim (#165)Query (Q)
Sonraki Terim (#167)Value (V)