Madde #406Kuantalama & Dağıtım/sozluk/safetensors

Safetensors

Safetensors (Hugging Face)

Türkçe: Güvenli Tensör Formatı
Ayrıntılı Tanım
Hugging Face tarafından geliştirilen; eski Python `pickle` tabanlı dosya formatlarının içerdiği rastgele kod çalıştırma (RCE) güvenlik açıklarını kapatan ve diskten belleğe sıfır kopyayla doğrudan eşleme (zero-copy memory mapping) sağlayan modern ağırlık saklama formatıdır.
Ne İşe Yarar / Çözülen Problem
İnternetten indirilen yapay zekâ model ağırlıklarının içine gizlenmiş kötü amaçlı virüslerin ve truva atlarının bilgisayarı ele geçirmesini kesin olarak engeller; model yükleme sürelerini katbekat hızlandırır.
Nasıl Çalışır? (Teknik & Mekanizma)
Dosya formatı saf ikili tensör tamponları ile bir JSON başlığından ibarettir. Hiçbir yürütülebilir Python kodu barındırmaz. İşletim sisteminin `mmap` çağrısıyla doğrudan diskten VRAM'e transfer edilir.
Örnek Senaryo & Pratik Uygulama
Güvenlikli bir gümrük kapısı: Eskiden içinde ne olduğu belirsiz kilitli sandıklar (pickle) geçerken; artık sadece şeffaf cam kutularda, içinde tek bir zararlı madde bulunmayan steril paketlerin (safetensors) kabul edilmesi.
Benzer Terimlerden Farkı
Güvenlidir, deterministiktir ve PyTorch `.pt` formatına göre diskten belleğe 2 ila 5 kat daha hızlı yüklenir. Modern Hugging Face ekosisteminin varsayılan standardıdır.
İlişkili Terimler (1)
Ait Olduğu Kategori

Model Sıkıştırma, Kuantalama ve Dağıtım/Çıkarım

Quantization (INT8/4), Pruning, Distillation, TensorRT, vLLM ve ONNX çıkarımı.

Toplam Terim:30 Madde
Bu Kategorideki Tüm Terimleri Gör →
Önceki Terim (#405)EXL2 (ExLlamaV2)
Sonraki Terim (#407)Activation-Aware Weight Quantization (AWQ)