kodlama.org Açık Bilgi Bankası

Yapay Zekâ Sözlüğü

Klasik Makine Öğrenmesinden AGI ve Süperzekâ vizyonuna kadar 16 kategoride 605 terim. Her kavram için teknik mekanizma, sezgisel açıklama, formüller ve pratik kullanım senaryoları.

⚡ 605 Özgün Terim📂 16 Kategori📐 Matematiksel Formüller
Harf:
Kategoriler (16)
Toplam 30 terim bulundu(Doğal Dil İşleme ve Sözcük Gömmeleri)Gösterilen: 1 - 24
#123Doğal Dil İşleme ve Sözcük Gömmeleri

Byte-Pair Encoding (BPE)

Bayt-Çifti Kodlaması

Başlangıçta tüm metni tek tek karakterlere bölüp, metin külliyatında yan yana en sık gelen karakter çiftlerini ardışık olarak birleştirerek (merge) belirli bir sözlük boyutuna ulaşana kadar kelime parçacıkları üreten algoritmadır.
Ayrıntılı Rehber→
#124Doğal Dil İşleme ve Sözcük Gömmeleri

WordPiece

WordPiece Belirteçleme

Google tarafından geliştirilen; alt-kelimeleri birleştirirken sadece frekansa bakmak yerine, iki parçanın birleşmesinin dil modelinin olabilirlik (likelihood) değerini ne kadar artırdığını maksimize eden belirteçleme algoritmasıdır.
Ayrıntılı Rehber→
#130Doğal Dil İşleme ve Sözcük Gömmeleri

TF-IDF

Terim Frekansı - Ters Doküman Frekansı

Bir kelimenin bir dokümandaki sıklığı (TF) ile külliyat genelindeki nadirliği (IDF) değerlerini çarparak, bir kelimenin o doküman için **ne kadar karakteristik ve önemli olduğunu** puanlayan klasik bilgi erişim metriğidir.
Ayrıntılı Rehber→
#131Doğal Dil İşleme ve Sözcük Gömmeleri

Word2Vec

Kelimeden Vektöre

Mikolov vd. (Google, 2013) tarafından geliştirilen; kelimeleri binlerce boyutlu anlamsız One-Hot vektörler yerine, kelimeler arası anlamsal ilişkileri ve geometrik mesafeleri koruyan yoğun (dense) vektörlere dönüştüren devrimci sinir ağı yaklaşımıdır.
Ayrıntılı Rehber→
#132Doğal Dil İşleme ve Sözcük Gömmeleri

CBOW

Sürekli Kelime Çantası

Word2Vec mimarisinin iki eğitim yönteminden biri olup; bir cümlenin içindeki **çevre (bağlam) kelimelerini alarak ortadaki hedef kelimeyi** tahmin etmeye çalışan modeldir.
Ayrıntılı Rehber→
#133Doğal Dil İşleme ve Sözcük Gömmeleri

Skip-gram

Atlamalı Gram Modeli

Word2Vec mimarisinde CBOW'un tam tersi mantıkla çalışan; **ortadaki tek bir hedef kelimeyi girdi alarak onun etrafındaki çevre (bağlam) kelimelerini** tahmin etmeye çalışan modeldir.
Ayrıntılı Rehber→
#134Doğal Dil İşleme ve Sözcük Gömmeleri

GloVe

Kelime Temsili İçin Küresel Vektörler

Stanford Üniversitesi (Pennington vd., 2014) tarafından geliştirilen; sadece yerel pencerelere değil, tüm külliyattaki **küresel kelime birlikte-geçiş (co-occurrence) matrisine** logaritmik regresyon uygulayan gömme modelidir.
Ayrıntılı Rehber→
#135Doğal Dil İşleme ve Sözcük Gömmeleri

FastText

Hızlı Metin Temsili

Kelimeleri tek ve bölünmez bir atom gibi ele almak yerine, kelimeleri **n-gram karakter parçacıklarına (karakter alt-kelimelerine)** bölerek vektörleştiren Facebook (Bojanowski vd., 2016) kütüphanesidir.
Ayrıntılı Rehber→
#137Doğal Dil İşleme ve Sözcük Gömmeleri

ELMo

Dil Modellerinden Sözcük Gömmeleri

Peters vd. (Allen Institute, 2018) tarafından geliştirilen; iki yönlü derin bir LSTM ağını büyük metinlerle eğiterek bağlamsal kelime gömmelerini tarihte ilk kez yaygınlaştıran öncü modeldir.
Ayrıntılı Rehber→
#139Doğal Dil İşleme ve Sözcük Gömmeleri

GPT

Üretken Ön-Eğitimli Dönüştürücü

Radford vd. (OpenAI, 2018) tarafından ortaya konan; Transformer'ın Decoder (Kod Çözücü) bloklarını kullanarak kendisinden önceki kelimelere bakıp bir sonraki en olası kelimeyi tahmin etme mantığıyla metin üreten otoregresif model ailesidir.
Ayrıntılı Rehber→
#140Doğal Dil İşleme ve Sözcük Gömmeleri

Sentence Embeddings

Cümle Gömmeleri

Kelimeleri tek tek vektörleştirmek yerine, cümlenin veya bütün bir paragrafın tamamını tek bir sabit boyutlu (örneğin 768 veya 1536 elemanlı) anlamsal yoğun vektöre dönüştürme işlemidir.
Ayrıntılı Rehber→
#141Doğal Dil İşleme ve Sözcük Gömmeleri

Sentence-BERT

Cümle Odaklı BERT

Reimers & Gurevych (2019) tarafından geliştirilen; standart BERT modelini Siyam (Siamese) ve Üçlü (Triplet) ağ yapılarıyla ince ayara tabi tutarak, devasa veri tabanlarında anlamsal cümle karşılaştırmasını saatlerden saniyelere indiren mimaridir.
Ayrıntılı Rehber→
#143Doğal Dil İşleme ve Sözcük Gömmeleri

Bag-of-Words (BoW)

Kelime Çantası Modeli

Bir metindeki dilbilgisini, cümle yapısını ve **kelime sırasını tamamen çöpe atan**; sadece hangi kelimenin o metin içinde kaç kez geçtiğini sayan en ilkel metin temsil modelidir.
Ayrıntılı Rehber→
#144Doğal Dil İşleme ve Sözcük Gömmeleri

Vocabulary

Kelime Dağarcığı / Sözlük

Bir doğal dil işleme modelinin veya belirteçleyicinin tanıdığı, anlayabildiği ve matematiksel bir kimlik numarası (token ID) atayabildiği tüm benzersiz kelime, alt-kelime ve özel karakterlerin sonlu listesidir.
Ayrıntılı Rehber→