kodlama.org Açık Bilgi Bankası

Yapay Zekâ Sözlüğü

Klasik Makine Öğrenmesinden AGI ve Süperzekâ vizyonuna kadar 16 kategoride 605 terim. Her kavram için teknik mekanizma, sezgisel açıklama, formüller ve pratik kullanım senaryoları.

⚡ 605 Özgün Terim📂 16 Kategori📐 Matematiksel Formüller
Harf:
Kategoriler (16)
Toplam 29 terim bulundu(Seyrek, Koşullu ve Hibrit Mimariler)Gösterilen: 1 - 24
#244Seyrek, Koşullu ve Hibrit Mimariler

Dense Models

Yoğun / Monolitik Modeller

Girdiye gelen her bir kelime, piksel veya token için model bünyesindeki parametrelerin **tamamını istisnasız olarak aktive eden ve çalıştıran** geleneksel sinir ağı mimarisidir.
Ayrıntılı Rehber→
#245Seyrek, Koşullu ve Hibrit Mimariler

Sparse Models

Seyrek Modeller

Devasa bir toplam parametre kapasitesine sahip olmasına rağmen, işlenen her bir veri parçacığı (token) için parametrelerin **yalnızca çok küçük bir alt kümesini koşullu olarak devreye sokan** mimaridir.
Ayrıntılı Rehber→
#246Seyrek, Koşullu ve Hibrit Mimariler

Mixture of Experts (MoE)

Uzmanlar Karışımı Mimarisi

Standart Transformer katmanındaki devasa FFN bloğunu, paralel çalışan çok sayıda bağımsız küçük alt ağa (**uzmanlara / experts**) bölen ve her tokenı bir yönlendirici aracılığıyla bu uzmanlardan sadece birkaçına gönderen mimaridir.
Ayrıntılı Rehber→
#247Seyrek, Koşullu ve Hibrit Mimariler

Router Network

Yönlendirici Ağ

Mixture of Experts mimarisinde her bir girdi tokenının temsil vektörünü analiz ederek, o tokenın hangi uzman ağlara gönderileceğini milisaniyeler içinde belirleyen karar verici küçük sinir ağıdır.
Ayrıntılı Rehber→
#248Seyrek, Koşullu ve Hibrit Mimariler

Gating Network

Kapılama Ağı

Yönlendirici ağ ile eşanlamlı kullanılan veya yönlendiricinin ürettiği uzman skorlarını Softmax veya Sigmoid benzeri fonksiyonlarla 0 ile 1 arasında geçirgenlik katsayılarına dönüştüren modüldür.
Ayrıntılı Rehber→
#250Seyrek, Koşullu ve Hibrit Mimariler

Load Balancing Loss

Yük Dengeleme Kaybı

Yönlendirici çökmesini engellemek için ana model kaybına eklenen; yönlendiriciyi tokenları tüm uzmanlar arasında **mümkün olduğunca eşit ve dengeli dağıtmaya** zorlayan matematiksel ceza fonksiyonudur.
Ayrıntılı Rehber→
#251Seyrek, Koşullu ve Hibrit Mimariler

Auxiliary Balancing Loss

Yardımcı Kayıpsız Dengeleme

Geleneksel yük dengeleme kayıplarının modelin asıl dil öğrenme hedefini saptırmasını önlemek amacıyla; kayıp fonksiyonuna ceza eklemek yerine yönlendiricinin uzman eşiklerine **dinamik dinamik sapma (bias) terimleri** ekleyerek denge kuran modern yaklaşımdır.
Ayrıntılı Rehber→
#252Seyrek, Koşullu ve Hibrit Mimariler

Fine-Grained Experts

İnce Taneli Uzmanlar

MoE mimarisinde az sayıda büyük uzman (örneğin 8 büyük uzman) kullanmak yerine; katmanı **çok daha fazla sayıda ancak çok daha küçük uzmanlara** (örneğin 64 veya 256 minik uzmana) bölme stratejisidir.
Ayrıntılı Rehber→
#255Seyrek, Koşullu ve Hibrit Mimariler

Top-K Routing

En İyi K-Uzman Yönlendirmesi

Yönlendirici ağın ürettiği olasılık puanlarına göre sıralama yaparak, her token için yalnızca **en yüksek puanı alan ilk KK adet uzmanı (genellikle K=1K=1 veya K=2K=2)** aktive eden seçim stratejisidir.
Ayrıntılı Rehber→
#259Seyrek, Koşullu ve Hibrit Mimariler

Top-1 Gating

Tekli Uzman Kapılama

Girdideki her token için mevcut tüm uzman havuzundan kesinlikle sadece en yüksek olasılığa sahip tek bir uzmanın (K=1K=1) çalıştırılması kuralıdır.
Ayrıntılı Rehber→
#260Seyrek, Koşullu ve Hibrit Mimariler

Top-2 Gating

İkili Uzman Kapılama

Her token için en yüksek skoru alan **iki farklı uzmanın (K=2K=2)** seçildiği; bu iki uzmanın çıktılarının kapı ağırlıklarıyla toplanarak nihai sonucun üretildiği klasik MoE standardıdır.
Ayrıntılı Rehber→
#261Seyrek, Koşullu ve Hibrit Mimariler

Mixture-of-Depths (MoD)

Derinlikler Karışımı

MoE'nin uzmanları seçtiği gibi, bu kez Transformer katmanlarının hesaplamasını dinamik olarak seçen; her tokenın **tüm katmanlardan geçmek zorunda olmadığı**, kolay tokenların bazı katmanları doğrudan atladığı (bypass ettiği) mimaridir.
Ayrıntılı Rehber→
#263Seyrek, Koşullu ve Hibrit Mimariler

State Space Models (SSM)

Durum Uzayı Modelleri

Kontrol kuramı ve fiziksel sistemlerin diferansiyel denklemlerinden türetilen; sürekli bir zaman akışını gizli bir durum vektörü üzerinden modelleyerek **doğrusal zamanda (O(N)O(N)) ve sabit bellekle** dizi işleyen yeni nesil mimariler ailesidir.
Ayrıntılı Rehber→
#265Seyrek, Koşullu ve Hibrit Mimariler

Selective State Space Model

Seçici Durum Uzayı Modeli

Standart durum uzayı modellerindeki matrislerin (A,B,CA, B, C) zamandan ve girdiden bağımsız sabit katsayılar olması kısıtını yıkarak; bu katsayıları **anlık girdi verisine göre dinamik olarak değiştiren (seçici kılan)** mekanizmadır.
Ayrıntılı Rehber→
#266Seyrek, Koşullu ve Hibrit Mimariler

Mamba

Mamba Mimarisi

Seçici Durum Uzayı mekanizmasını, modern donanımların (GPU SRAM ve HBM) bellek hiyerarşisine göre tasarlanmış **donanım-farkındalıklı paralel tarama (Hardware-Aware Parallel Scan)** algoritmasıyla birleştiren devrimci Transformer alternatifi derin öğrenme mimarisidir.
Ayrıntılı Rehber→
#267Seyrek, Koşullu ve Hibrit Mimariler

Parallel Scan

Paralel İlişkisel Tarama

Yinelemeli (özyinelemeli) ardışık bir döngüyü, birleşme özelliği (associativity) gösteren ikili ağaç operasyonları sayesinde GPU üzerinde **paralel olarak O(log⁡N)O(\log N) zaman adımında** hesaplayan temel algoritmadır.
Ayrıntılı Rehber→