Madde #136NLP & Gömme/sozluk/contextual-embeddings
Contextual Embeddings
Contextualized Word Embeddings
Türkçe: Bağlamsal Sözcük Gömmeleri
Ayrıntılı Tanım
Bir kelimenin vektörünün sabit olmadığı; kelimenin içinde bulunduğu cümlenin, yanındaki diğer sözcüklerin anlamına göre dinamik olarak değiştiği modern temsil biçimidir.
Ne İşe Yarar / Çözülen Problem
Eş sesli (homonym) veya çok anlamlı kelimelerin farklı bağlamlardaki anlam ayrımını bilgisayara öğretir; NLP'de statik kelime çağını kapatmıştır.
Nasıl Çalışır? (Teknik & Mekanizma)
Kelime önce temel bir girdi alır; ardından çok katmanlı iki yönlü sinir ağlarından (BiLSTM veya Transformer) geçer. Her katmanda diğer kelimelerle etkileşime girerek son katmanda o cümleye özel taze bir vektör üretir.
Örnek Senaryo & Pratik Uygulama
1. Cümle: "Yüz liraya yeni bir tişört aldım." (Sayı olan yüz)
2. Cümle: "Denizde çok güzel yüzüyorsun." (Fiil olan yüzmek)
Statik modellerde bu iki kelimenin vektörü tıpatıp aynıdır; Bağlamsal modelde ise iki tamamen zıt vektör üretilir.
Benzer Terimlerden Farkı
Word2Vec ve GloVe'da her kelimenin sözlükte tek bir sabit vektörü vardır; Contextual Embeddings'te kelimenin sonsuz sayıda farklı bağlamsal yüzü olabilir.
İlişkili Terimler (3)
Doğal Dil İşleme ve Sözcük Gömmeleri
Metin ön işleme, Word2Vec, GloVe, RNN, LSTM ve n-gram modelleri.
Toplam Terim:30 Madde
Bu Kategorideki Tüm Terimleri Gör →Önceki Terim (#135)FastText
Sonraki Terim (#137)ELMo