Context Compression

Türkçe: Bağlam Sıkıştırma

Ayrıntılı Tanım

Getirilen uzun doküman parçalarının içerisindeki dolgu kelimeleri, alakasız cümleleri ve parazitleri ayıklayarak; dil modeline sadece **soruyla doğrudan ilgili en can alıcı 1-2 cümleyi** ileten filtreleme tekniğidir.

Ne İşe Yarar / Çözülen Problem

LLM'e giden prompt'u kısaltarak API maliyetlerini ve işlem süresini düşürür; modelin alakasız bilgilerle dikkatinin dağılmasını (Lost in the Middle) engeller.

Nasıl Çalışır? (Teknik & Mekanizma)

Çıkarıcı (Extractive - doğrudan cümle seçme) veya Özetleyici (Abstractive - yeniden yazma) küçük bir model kullanılır. Parçanın içindeki her cümlenin soruya göre alaka skoru ölçülür; eşik altı cümleler atılır.

Örnek Senaryo & Pratik Uygulama

5 sayfalık bir şirketin finansal raporundan, direktörün sorduğu "Net kâr ne kadar?" sorusuna karşılık sadece "2024 yılı net kârı 40 milyon dolardır" cümlesini cımbızla çekip raporun geri kalanını çöpe atmak.

Benzer Terimlerden Farkı

Yeniden sıralama (Rerank) tüm parçanın sırasını değiştirirken; Bağlam Sıkıştırma parçanın bizzat içini budar.

İlişkili Terimler (3)

#339

Lost in the Middle Problem

Ortada Kaybolma Problemi

#335

Advanced RAG

Gelişmiş RAG Mimarisi

#340

Chunking

Metin Parçalama / Bölütleme

Ait Olduğu Kategori

Bilgi Erişimi, RAG ve Vektör Veritabanları

Dense/Sparse retrieval, Vektör indeksleme (HNSW), Rerankers ve RAG pipeline.

Toplam Terim:37 Madde

Bu Kategorideki Tüm Terimleri Gör →

Önceki Terim (#344)Query Expansion

Sonraki Terim (#346)Hypothetical Document Embeddings (HyDE)