Sözlüğe Dön/Genel Yapay Zekâ (AGI), Gelecek Paradigmaları ve İleri Sınırlar/Synthetic Data Collapse (Model Autophagy)
Madde #603AGI & Gelecek/sozluk/synthetic-data-collapse-model-autophagy
Synthetic Data Collapse (Model Autophagy)
Model Autophagy Disorder (MAD) / Model Collapse (Shumailov et al., Nature 2024)
Türkçe: Modelin Kendi Kendini Yemesi / Sentetik Veri Çöküşü
Ayrıntılı Tanım
Yeni nesil yapay zekâ modellerinin, internette kendilerinden önceki modeller tarafından üretilmiş yapay zekâ metinleri ve görselleriyle (sentetik veriyle) eğitilmesi sonucu; nesiller ilerledikçe **orijinal veri dağılımının kuyruklarının silinmesi, çeşitliliğin yok olması ve modelin anlamsız bir çamur çıktısına çökmesi** felaketidir.
Ne İşe Yarar / Çözülen Problem
Yapay zekânın neden sadece başka yapay zekâların çıktılarıyla beslenemeyeceğini; gerçek insan deneyiminin ve ham insan verisinin neden vazgeçilmez bir altın değerinde olduğunu kanıtlar.
Nasıl Çalışır? (Teknik & Mekanizma)
Bir fotokopi makinesinden çıkan fotokopinin tekrar fotokopisini çekmek gibi: Her nesilde nadir olasılıklar (dağılımın kuyrukları) budanır; varyans daralır; 5-10 nesil sonra model tüm köpek cinslerini unutup sadece tek bir tuhaf canavar çizer hale gelir.
Örnek Senaryo & Pratik Uygulama
Yüz fotoğrafı üreten bir modelin kendi ürettiği fotoğraflarla 5 nesil eğitilmesi: İlk nesilde sarışın, esmer, kızıl insanlar varken; 5. nesilde tüm yüzlerin birbirine benzeyen, gözleri kaymış tekdüze bir korku filmi karakterine dönüşmesi.
Benzer Terimlerden Farkı
Sıradan bir aşırı öğrenme (Overfitting) değildir; sentetik veri döngüsünün yarattığı istatistiksel bir bilgi kirliliği ve dejenerasyondur.
İlişkili Terimler (3)
Genel Yapay Zekâ (AGI), Gelecek Paradigmaları ve İleri Sınırlar
AGI kriterleri, Bilinç tartışmaları, Süperzekâ, Tekillik (Singularity) ve uzun vadeli hizalama.
Toplam Terim:30 Madde
Bu Kategorideki Tüm Terimleri Gör →Önceki Terim (#602)Co-Pilot to Auto-Pilot Paradigm Shift
Sonraki Terim (#604)Post-Scarcity Economics & The Future of Work