Madde #352RAG & Vektör/sozluk/scalar-quantization-sq
Scalar Quantization (SQ)
Scalar Quantization (SQ8 / SQ4)
Türkçe: Skaler Kuantalama
Ayrıntılı Tanım
Vektörün alt parçalarını kümelemek yerine; vektördeki **her bir kayan noktalı sayıyı (FP32 - 4 bayt) doğrudan 8-bitlik (INT8 - 1 bayt) veya 4-bitlik bir tamsayıya** doğrusal olarak dönüştüren basit ve etkili sıkıştırma tekniğidir.
Ne İşe Yarar / Çözülen Problem
Doğruluktan (accuracy) neredeyse hiç kaybetmeden vektör veritabanının bellek tüketimini tam 4 kat azaltır ve işlemci seviyesinde SIMD komutlarıyla aramayı hızlandırır.
Nasıl Çalışır? (Teknik & Mekanizma)
Vektör uzayındaki minimum ve maksimum değerler bulunur: . Bu aralık 256 eşit basamağa bölünür ve her ondalıklı sayı en yakın tamsayı basamağına yuvarlanır:
Örnek Senaryo & Pratik Uygulama
Bir boy ölçümünde milimetreleri çöpe atıp herkesin boyunu sadece santimetre cinsinden yuvarlayarak deftere yazmak; böylece defterde devasa yer kazanmak.
Benzer Terimlerden Farkı
Product Quantization kadar agresif sıkıştırma yapamaz (%75 tasarruf vs %95 tasarruf); ancak matematiksel hesabı çok daha basit olduğu için neredeyse sıfır doğruluk kaybıyla çalışır.
İlişkili Terimler (2)
Bilgi Erişimi, RAG ve Vektör Veritabanları
Dense/Sparse retrieval, Vektör indeksleme (HNSW), Rerankers ve RAG pipeline.
Toplam Terim:37 Madde
Bu Kategorideki Tüm Terimleri Gör →Önceki Terim (#351)Product Quantization (PQ)
Sonraki Terim (#353)Cosine Similarity