GloVe

Global Vectors for Word Representation

Türkçe: Kelime Temsili İçin Küresel Vektörler

Ayrıntılı Tanım

Stanford Üniversitesi (Pennington vd., 2014) tarafından geliştirilen; sadece yerel pencerelere değil, tüm külliyattaki **küresel kelime birlikte-geçiş (co-occurrence) matrisine** logaritmik regresyon uygulayan gömme modelidir.

Ne İşe Yarar / Çözülen Problem

Word2Vec'in tüm metnin küresel istatistiklerini kaçırması sorununu çözer; doğrusal kelime analojilerinde (analogy tasks) üstün başarım gösterir.

Nasıl Çalışır? (Teknik & Mekanizma)

Külliyattaki devasa

X

birlikte-geçiş matrisi çıkarılır. İki kelime vektörünün iç çarpımının, bu kelimelerin birlikte geçme sıklığının logaritmasına eşit olması hedeflenir:

w_i^T \tilde{w}_j + b_i + \tilde{b}_j = \log(X_{ij})

Örnek Senaryo & Pratik Uygulama

İki kelimenin ilişkisini anlamak için sadece yan yana geldikleri tek bir cümleye değil; kütüphanedeki tüm kitapların istatistiksel ortak indeksine bakmak.

Benzer Terimlerden Farkı

Word2Vec sinir ağı tabanlı bir pencere tarayıcısı iken; GloVe küresel matris çarpanlarına ayırma (matrix factorization) mantığıyla çalışır.

İlişkili Terimler (3)

Singular Value Decomposition (SVD)

Tekil Değer Ayrışımı

#136

Contextual Embeddings

Bağlamsal Sözcük Gömmeleri

Ait Olduğu Kategori

Doğal Dil İşleme ve Sözcük Gömmeleri

Metin ön işleme, Word2Vec, GloVe, RNN, LSTM ve n-gram modelleri.

Toplam Terim:30 Madde

Bu Kategorideki Tüm Terimleri Gör →

Önceki Terim (#133)Skip-gram

Sonraki Terim (#135)FastText