Madde #131NLP & Gömme/sozluk/word2vec

Word2Vec

Word to Vector (Word2Vec)

Türkçe: Kelimeden Vektöre
Ayrıntılı Tanım
Mikolov vd. (Google, 2013) tarafından geliştirilen; kelimeleri binlerce boyutlu anlamsız One-Hot vektörler yerine, kelimeler arası anlamsal ilişkileri ve geometrik mesafeleri koruyan yoğun (dense) vektörlere dönüştüren devrimci sinir ağı yaklaşımıdır.
Ne İşe Yarar / Çözülen Problem
Bilgisayarların kelimeler arasındaki semantik benzerlikleri kavramasını sağlar; dilde vektör matematiği devrini başlatmıştır.
Nasıl Çalışır? (Teknik & Mekanizma)
"Bana arkadaşını söyle, sana kim olduğunu söyleyeyim" ilkesine dayanır (Dağılımsal Anlambilim Hipotezi). Kelimeleri çevreleyen bağlam kelimelerine bakarak iki katmanlı sığ bir sinir ağı eğitir (CBOW veya Skip-gram).
Örnek Senaryo & Pratik Uygulama
Ünlü vektör aritmetiği denklemi: v⃗Kral−v⃗Erkek+v⃗Kadın≈v⃗Kralic¸e\vec{v}_{\text{Kral}} - \vec{v}_{\text{Erkek}} + \vec{v}_{\text{Kadın}} \approx \vec{v}_{\text{Krali\c{c}e}} Ekranda 3D uzayda vektörlerin oklarla birbirine bağlanması.
Benzer Terimlerden Farkı
TF-IDF ve One-Hot kelimelerin anlamını bilmezken; Word2Vec benzer anlamdaki kelimeleri uzayda birbirine yakın noktalara yerleştirir.
İlişkili Terimler (4)
Ait Olduğu Kategori

Doğal Dil İşleme ve Sözcük Gömmeleri

Metin ön işleme, Word2Vec, GloVe, RNN, LSTM ve n-gram modelleri.

Toplam Terim:30 Madde
Bu Kategorideki Tüm Terimleri Gör →
Önceki Terim (#130)TF-IDF
Sonraki Terim (#132)CBOW