Madde #559Çizge Ağları (GNN)/sozluk/over-smoothing-in-gnns
Over-Smoothing in GNNs
Over-Smoothing Problem in Deep GNNs
Türkçe: Aşırı Pürüzsüzleşme / Aşırı Düzleşme Problemi
Ayrıntılı Tanım
Bir Çizge Sinir Ağına çok fazla katman eklendiğinde (genellikle 4-5 katmandan sonra); mesajlaşmanın tüm çizgeye kontrolsüzce yayılması sonucu **tüm düğümlerin temsil vektörlerinin birbirinin tıpatıp aynısı haline gelmesi** ve modelin tüm ayırt ediciliğini kaybetmesi krizidir.
Ne İşe Yarar / Çözülen Problem
GNN'lerin neden klasik CNN veya Transformer'lar gibi 100 katman derinliğe gidemediğini açıklar; modellerin 2-3 katmanda sıkışıp kalmasının nedenidir.
Nasıl Çalışır? (Teknik & Mekanizma)
Komşu ortalamaları tekrar tekrar alındıkça, temsil vektörleri çizgenin durağan dağılımına (stationary distribution) yakınsar. Tüm düğümler arasındaki varyans sıfıra çöker.
Örnek Senaryo & Pratik Uygulama
50 farklı renkteki boyayı tek bir kovanın içine döküp dakikalarca çılgınca karıştırmak: Sonunda tüm renklerin kaybolup kovanın tekdüze çamur rengine dönüşmesi.
Benzer Terimlerden Farkı
Aşırı öğrenme (Overfitting) eğitim verisini ezberler; Over-Smoothing ise ağın içindeki tüm temsilleri homojen tek bir lekeye dönüştürür.
İlişkili Terimler (2)
Grafiksel Modeller, Çizge Sinir Ağları ve Bilgi Çirgeleri
GNN, Graph Convolution, Knowledge Graphs, TransE ve geometrik derin öğrenme.
Toplam Terim:30 Madde
Bu Kategorideki Tüm Terimleri Gör →Önceki Terim (#558)Weisfeiler-Lehman (WL) Graph Isomorphism Test
Sonraki Terim (#560)Over-Squashing