Madde #404Kuantalama & Dağıtım/sozluk/mlx
MLX
MLX Framework (Apple Silicon Machine Learning)
Türkçe: MLX Çerçevesi
Ayrıntılı Tanım
Apple bünyesindeki yapay zekâ araştırmacıları tarafından geliştirilen; Apple Silicon (M1, M2, M3, M4) çiplerinin **Birleşik Bellek Mimarisi'ni (Unified Memory Architecture)** son damlasına kadar kullanmak üzere özel olarak tasarlanmış açık kaynaklı derin öğrenme kütüphanesidir.
Ne İşe Yarar / Çözülen Problem
PyTorch'un Mac işlemcilerindeki bellek transferi hantallığını yıkar; Mac bilgisayarların 128 GB'a varan paylaşımlı RAM'inde devasa 70B modellerin ultra hızlı ve sıfır veri kopyalamayla çalışmasını sağlar.
Nasıl Çalışır? (Teknik & Mekanizma)
NumPy benzeri tanıdık bir API sunar. Birleşik bellek sayesinde CPU ile GPU arasında PCI-e veri yolu transferi yoktur; tensörler aynı fiziksel bellek havuzunda durur ve her iki işlemci tarafından sıfır gecikmeyle ortaklaşa işlenir. Tembel değerlendirme (Lazy Evaluation) yapar.
Örnek Senaryo & Pratik Uygulama
Masanın iki ucunda oturan bir ressam ile bir yazarın, kağıdı elden ele uzatmakla vakit kaybetmeden masanın tam ortasındaki ortak kağıda aynı anda çizim yapıp yazı yazması.
Benzer Terimlerden Farkı
NVIDIA odaklı CUDA ekosistemine karşı; Apple donanımının saf mimari gücünü arkasına alan Mac'e özel bir framework'tür.
İlişkili Terimler (1)
Model Sıkıştırma, Kuantalama ve Dağıtım/Çıkarım
Quantization (INT8/4), Pruning, Distillation, TensorRT, vLLM ve ONNX çıkarımı.
Toplam Terim:30 Madde
Bu Kategorideki Tüm Terimleri Gör →Önceki Terim (#403)GGUF (GPT-Generated Unified Format)
Sonraki Terim (#405)EXL2 (ExLlamaV2)