Madde #454Güvenlik & Kıyaslama/sozluk/differential-privacy-dp-sgd
Differential Privacy (DP-SGD)
Differentially Private Stochastic Gradient Descent (Abadi et al., Google 2016)
Türkçe: Diferansiyel Gizlilikli Stokastik Gradyan İnişi
Ayrıntılı Tanım
Yapay zekâ modeli eğitilirken, eğitim verisindeki tek bir bireyin özel bilgilerinin (kredi kartı, TC kimlik, hasta kaydı) model ağırlıklarına sızmasını ve sonradan modelden geri çıkarılmasını matematiksel olarak imkansız kılan gizlilik garantili eğitim algoritmasıdır.
Ne İşe Yarar / Çözülen Problem
Dil modellerinin eğitim verisindeki gizli kişisel verileri istemeden ezberleyip sohbet sırasında başkalarına sızdırması (Data Extraction Attack) skandalını çözer.
Nasıl Çalışır? (Teknik & Mekanizma)
İki temel güvenlik adımı içerir:
1. Her örneğin gradyanı katı bir normla kırpılır (Gradient Clipping: tek bir kişinin aşırı baskı kurması engellenir).
2. Gradyanların toplamına kontrollü Gauss gürültüsü eklenir. Gizlilik bütçesi matematiksel olarak garantiye alınır.
Örnek Senaryo & Pratik Uygulama
Nüfus sayımı anketinde hassas bir soruya (örneğin "Hiç hırsızlık yaptınız mı?") cevap verirken parayla yazı tura atmak: Yazı gelirse gerçeği söylemek, tura gelirse rastgele cevap vermek; böylece bireysel kimliğin tamamen gizlenmesi ama toplumun genel oranının doğru çıkması.
Benzer Terimlerden Farkı
Basit veri anonimleştirmesi değildir; en gelişmiş saldırganların bile tek bir bireyin verisini modelden çekemeyeceğinin formel matematiksel kanıtıdır.
İlişkili Terimler (2)
Değerlendirme, Kıyaslama ve Güvenlik
MMLU, HumanEval, Red Teaming, Halüsinasyon tespiti ve güvenlik testleri.
Toplam Terim:30 Madde
Bu Kategorideki Tüm Terimleri Gör →Önceki Terim (#453)Representation Engineering (RepE)
Sonraki Terim (#455)Machine Unlearning