Madde #361RAG & Vektör/sozluk/context-window-extension
Context Window Extension
Context Window Extension (Bağlam Penceresi Genişletme)
Türkçe: Bağlam Penceresi Genişletme
Ayrıntılı Tanım
Büyük dil modellerinin tek seferde okuyup işleyebildiği maksimum token sınırını (örneğin 4.000 tokenı), mimari veya algoritmik yöntemlerle yüz binlerce hatta milyonlarca tokena (örneğin 1M veya 2M tokena) çıkarma tekniklerinin tamamıdır.
Ne İşe Yarar / Çözülen Problem
RAG ihtiyacını bazı senaryolarda tamamen ortadan kaldırır; yüzlerce sayfalık bütün bir kod tabanının, kitap serisinin veya 2 saatlik bir filmin tamamının tek parça halinde modele verilmesini sağlar.
Nasıl Çalışır? (Teknik & Mekanizma)
Konumsal gömme enterpolasyonları (RoPE Scaling, YaRN, NTK-Aware), donanım düzeyinde dikkat optimizasyonları (FlashAttention, Ring Attention) ve kayan pencereli dikkat mekanizmaları bir arada kullanılır.
Örnek Senaryo & Pratik Uygulama
Bir insanın masasını genişletmesi: Masaya ancak 3 sayfa kağıt sığabilirken, masayı 100 metre uzunluğunda devasa bir konferans masasına dönüştürüp tüm kütüphaneyi masanın üzerine aynı anda açabilmek.
Benzer Terimlerden Farkı
Harici bir veritabanı kurmak yerine, modelin kendi anlık çalışma hafızasını (RAM'ini) devasa boyuta büyütmektir.
İlişkili Terimler (4)
Bilgi Erişimi, RAG ve Vektör Veritabanları
Dense/Sparse retrieval, Vektör indeksleme (HNSW), Rerankers ve RAG pipeline.
Toplam Terim:37 Madde
Bu Kategorideki Tüm Terimleri Gör →Önceki Terim (#360)Agentic RAG
Sonraki Terim (#362)Long-Context LLMs vs. RAG