ColBERT

Contextualized Late Interaction over BERT (Khattab & Zaharia, Stanford 2020)

Türkçe: BERT Üzerinden Bağlamsal Geç Etkileşim

Ayrıntılı Tanım

Bi-Encoder'ın hız avantajı ile Cross-Encoder'ın token düzeyindeki derin anlama gücünü birleştiren; her token için ayrı bir vektör üretip benzerliği **Maksimum Benzerliklerin Toplamı (MaxSim)** ile hesaplayan geç etkileşimli modeldir.

Ne İşe Yarar / Çözülen Problem

Tüm dokümanı tek bir vektöre sıkıştırmanın getirdiği bilgi kaybını önler; Cross-Encoder kalitesini Bi-Encoder hızında sunar.

Nasıl Çalışır? (Teknik & Mekanizma)

Sorgunun her tokenı (

q_i

) için, dokümandaki en yüksek benzerliğe sahip token (

d_j

) bulunur ve bu maksimum skorlar toplanır:

\text{Score}(Q, D) = \sum_{i \in Q} \max_{j \in D} (E(q_i) \cdot E(d_j))

Örnek Senaryo & Pratik Uygulama

Bir mülakatta adayın genel CV özetine bakmak yerine; CV'deki her bir yeteneğin şirketin aradığı her bir şartla teker teker en iyi eşleşmesini bulup puanları toplamak.

Benzer Terimlerden Farkı

Tek vektörlü Bi-Encoder'dan farklı olarak çok-vektörlüdür (multi-vector representation).

İlişkili Terimler (3)

#330

Bi-Encoder

Çift Kodlayıcı Mimarisi

Yoğun / Vektörel Bilgi Erişimi

Ait Olduğu Kategori

Bilgi Erişimi, RAG ve Vektör Veritabanları

Dense/Sparse retrieval, Vektör indeksleme (HNSW), Rerankers ve RAG pipeline.

Toplam Terim:37 Madde

Bu Kategorideki Tüm Terimleri Gör →

Önceki Terim (#330)Bi-Encoder

Sonraki Terim (#332)Hybrid Search