Skip-gram

Continuous Skip-gram Model

Türkçe: Atlamalı Gram Modeli

Ayrıntılı Tanım

Word2Vec mimarisinde CBOW'un tam tersi mantıkla çalışan; **ortadaki tek bir hedef kelimeyi girdi alarak onun etrafındaki çevre (bağlam) kelimelerini** tahmin etmeye çalışan modeldir.

Ne İşe Yarar / Çözülen Problem

Nadir geçen kelimelerin ve zengin bağlamların temsil kalitesini CBOW'a göre çok daha yüksek bir hassasiyetle öğrenir.

Nasıl Çalışır? (Teknik & Mekanizma)

Verilen bir

w_t

kelimesi için

w_{t-2}, w_{t-1}, w_{t+1}, w_{t+2}

kelimelerinin çıkma olasılıkları maksimize edilir. Hesaplama yükünü hafifletmek için Negative Sampling (Negatif Örnekleme) kullanılır.

Örnek Senaryo & Pratik Uygulama

Güneş gibi parlayan tek bir merkez kelime (`Kutup`) ve etrafına ışık huzmeleri gibi fırlayan bağlam kelimeleri (`Ayı`, `Buzul`, `Soğuk`).

Benzer Terimlerden Farkı

CBOW bağlamı ortalayarak detayı biraz bulanıklaştırırken; Skip-gram her bağlam kelimesiyle ayrı ayrı ilişki kurduğu için semantik ayrıntıları kaçırmaz ama daha yavaş eğitilir.

İlişkili Terimler (2)

Sürekli Kelime Çantası

Ait Olduğu Kategori

Doğal Dil İşleme ve Sözcük Gömmeleri

Metin ön işleme, Word2Vec, GloVe, RNN, LSTM ve n-gram modelleri.

Toplam Terim:30 Madde

Bu Kategorideki Tüm Terimleri Gör →

Önceki Terim (#132)CBOW

Sonraki Terim (#134)GloVe