Sözlüğe Dön/LLM Eğitim Yaşam Döngüsü, İnce Ayar ve Hizalama/Low-Rank Adaptation (LoRA)
#214 Parameter-Efficient Fine-Tuning (PEFT)#216 Quantized Low-Rank Adaptation (QLoRA)
Madde #215LLM & Fine-Tuning/sozluk/low-rank-adaptation-lora

Low-Rank Adaptation (LoRA)

Low-Rank Adaptation (Hu et al., Microsoft 2021)

Türkçe: Düşük Dereceli Uyarlama (LoRA)
Ayrıntılı Tanım
Ağırlık güncelleme matrisini (ΔW\Delta W), rankı rr olan iki çok küçük matrisin çarpımı (A×BA \times B) şeklinde ayrıştırarak parametre sayısını %99'un üzerinde azaltan en popüler PEFT algoritmasıdır.
Ne İşe Yarar / Çözülen Problem
LLM ince ayarını sıradan tek bir tüketici ekran kartında (RTX 4090 gibi) yapılabilir hale getirmiştir; açık kaynaklı yapay zekâ patlamasının baş aktörüdür.
Nasıl Çalışır? (Teknik & Mekanizma)
d×kd \times k boyutlu ΔW\Delta W yerine, A(d×r)A (d \times r) ve B(r×k)B (r \times k) matrisleri eğitilir (r≪min⁡(d,k)r \ll \min(d, k), örn: r=8r=8 veya 1616): Wyeni=Wdonmus¸+αr(B⋅A)W_{yeni} = W_{donmu\c{s}} + \frac{\alpha}{r} (B \cdot A)
Örnek Senaryo & Pratik Uygulama
4096 x 4096 boyutundaki 16 milyon parametrelik bir matrisi eğitmek yerine; araya rankı 8 olan iki küçük matris koyup sadece 65 bin parametre eğitmek.
Benzer Terimlerden Farkı
Çıkarım sırasında B×AB \times A matrisi orijinal ağırlığa eklenerek katlanabilir (merge); böylece çıkarımda sıfır ek gecikme (latency) yaratır.
İlişkili Terimler (4)
#216
Quantized Low-Rank Adaptation (QLoRA)
Kuantalanmış Düşük Dereceli Uyarlama
#217
Weight-Decomposed Low-Rank Adaptation (DoRA)
Ağırlık Ayrıştırmalı Düşük Dereceli Uyarlama
#20
Low-Rank Approximation
Düşük Dereceli (Rank) Yaklaşıklama
#214
Parameter-Efficient Fine-Tuning (PEFT)
Parametre-Verimli İnce Ayar
Ait Olduğu Kategori

LLM Eğitim Yaşam Döngüsü, İnce Ayar ve Hizalama

Pre-training, SFT, LoRA/QLoRA, RLHF, DPO ve güvenlik hizalaması.

Toplam Terim:56 Madde
Bu Kategorideki Tüm Terimleri Gör →
Önceki Terim (#214)Parameter-Efficient Fine-Tuning (PEFT)
Sonraki Terim (#216)Quantized Low-Rank Adaptation (QLoRA)