Madde #208LLM & Fine-Tuning/sozluk/supervised-fine-tuning-sft

Supervised Fine-Tuning (SFT)

Türkçe: Denetimli İnce Ayar
Ayrıntılı Tanım
Ön-eğitimi tamamlanmış ham bir temel dil modeline (Base Model), kaliteli soru-cevap veya talimat-yanıt çiftlerinden oluşan etiketli veriler vererek modelin bir sohbet asistanı gibi davranmasını sağlayan ilk uzmanlaşma eğitimidir.
Ne İşe Yarar / Çözülen Problem
Ham modelin sadece cümle tamamlamak yerine (örneğin "Fransa'nın başkenti neresidir?" sorusuna yeni sorular eklemek yerine) doğrudan soruyu anlayıp net cevap vermesini sağlar.
Nasıl Çalışır? (Teknik & Mekanizma)
Sadece kullanıcı talimatına modelin vereceği yanıt kısmı (Loss Masking ile) üzerinden Cross-Entropy kaybı hesaplanır; talimat kısmı cezalandırılmaz. Düşük öğrenme hızıyla eğitilir.
Örnek Senaryo & Pratik Uygulama
Tıp fakültesini dereceyle bitirmiş ama henüz hiç hasta görmemiş bir doktor adayına, poliklinikte hasta karşılama ve reçete yazma pratiklerinin yaptırılması.
Benzer Terimlerden Farkı
Ön-eğitim trilyonlarca kelimeyle aylar sürerken; SFT genellikle on binlerce kaliteli örnekle saatler veya günler içinde tamamlanır.
Önceki Terim (#207)Fully Sharded Data Parallel (FSDP)
Sonraki Terim (#209)Instruction Tuning