kodlama.org Açık Bilgi Bankası

Yapay Zekâ Sözlüğü

Klasik Makine Öğrenmesinden AGI ve Süperzekâ vizyonuna kadar 16 kategoride 605 terim. Her kavram için teknik mekanizma, sezgisel açıklama, formüller ve pratik kullanım senaryoları.

⚡ 605 Özgün Terim📂 16 Kategori📐 Matematiksel Formüller
Harf:
Kategoriler (16)
Toplam 30 terim bulundu(Değerlendirme, Kıyaslama ve Güvenlik)Gösterilen: 1 - 24
#426Değerlendirme, Kıyaslama ve Güvenlik

Model Evaluation

Model Değerlendirme

Eğitilen veya ince ayar yapılan bir yapay zekâ modelinin doğruluğunu, akıl yürütme becerisini, genelleme gücünü ve güvenilirliğini önceden belirlenmiş test kümeleri ve metriklerle ölçme disiplinidir.
Ayrıntılı Rehber→
#427Değerlendirme, Kıyaslama ve Güvenlik

Perplexity (PPL)

Şaşkınlık / Kararsızlık Skoru

Bir dil modelinin verilen bir metin dizisini ne kadar iyi tahmin edebildiğini ölçen; modelin sonraki kelimeyi seçerken ortalama kaç alternatif kelime arasında "kararsız/şaşkın" kaldığını gösteren temel istatistiksel metriktir.
Ayrıntılı Rehber→
#434Değerlendirme, Kıyaslama ve Güvenlik

Pass@k

k-Denemede Başarı Metriği

Kodlama veya kesin cevaplı testlerde; modelden nn adet bağımsız çözüm üretildiğinde, rastgele seçilen **kk adet çözümden en az birinin tüm birim testlerden başarıyla geçme olasılığını** ölçen istatistiksel metriktir.
Ayrıntılı Rehber→
#435Değerlendirme, Kıyaslama ve Güvenlik

LMSYS Chatbot Arena

LMSYS Sohbet Botu Arenası

İki anonim modelin aynı kullanıcı sorusuna yan yana ürettiği cevapları gerçek insanların körleme usulü (hangi cevabın kime ait olduğunu bilmeden) oyladığı ve modellerin **Elo satranç puanlama sistemiyle** sıralandığı dünyanın en prestijli canlı liderlik tablosudur.
Ayrıntılı Rehber→
#436Değerlendirme, Kıyaslama ve Güvenlik

LLM-as-a-Judge

Yargıç Olarak Büyük Dil Modeli

İnsan hakem tutmanın aylar süren maliyetini ortadan kaldırmak için; son derece gelişmiş bir amiral gemisi modelin (örneğin GPT-4) diğer küçük modellerin yanıtlarını belirli kriterlere göre inceleyip puanladığı otomatik değerlendirme paradigmasıdır.
Ayrıntılı Rehber→
#439Değerlendirme, Kıyaslama ve Güvenlik

Red Teaming

Kırmızı Takım / Karşıt Güvenlik Testi

Bir yapay zekâ modelini halka açmadan önce; etik hackerların ve güvenlik uzmanlarının (Kırmızı Takım) modele bilinçli olarak saldırıp, zafiyetlerini, tehlikeli bilgi sızdırma potansiyelini ve güvenlik açıklarını kasıtlı olarak kırmaya çalışması sürecidir.
Ayrıntılı Rehber→
#440Değerlendirme, Kıyaslama ve Güvenlik

Jailbreaking

Kural Kırma / Güvenlik Kalkanı Aşımı

Kullanıcının zekice kurgulanmış prompt taktikleri, rol yapma senaryoları veya metaforik çerçeveler kullanarak dil modelinin güvenlik filtrelerini kandırması ve modelin **normalde yasaklanmış olan zararlı yanıtları vermesini sağlaması** eylemidir.
Ayrıntılı Rehber→
#441Değerlendirme, Kıyaslama ve Güvenlik

Prompt Injection

Komut Enjeksiyonu Saldırısı

Bir yapay zekâ modeline dışarıdan verilen bir metnin (örneğin bir web sitesi veya e-posta) içine gizlenmiş kötü amaçlı talimatların, modelin orijinal sistem talimatlarını (System Prompt) ezerek **modelin kontrolünü saldırganın eline geçirmesi** açığıdır.
Ayrıntılı Rehber→
#442Değerlendirme, Kıyaslama ve Güvenlik

Indirect Prompt Injection

Dolaylı Komut Enjeksiyonu

Saldırganın doğrudan yapay zekâ ile konuşmadığı; zararlı komutları modelin okuyacağı **üçüncü parti harici kaynakların içine (bir PDF dosyası, web sitesi, YouTube transkripti veya veritabanı)** tuzak olarak yerleştirdiği sinsi enjeksiyon türüdür.
Ayrıntılı Rehber→
#443Değerlendirme, Kıyaslama ve Güvenlik

Data Poisoning

Eğitim Verisi Zehirleme

Saldırganların yapay zekâ modelinin henüz eğitim aşamasındayken internetten toplayacağı açık kaynaklı veri havuzlarına kasıtlı olarak manipüle edilmiş, hatalı veya gizli arka kapı tetikleyicileri (backdoors) içeren metinler yerleştirmesidir.
Ayrıntılı Rehber→
#444Değerlendirme, Kıyaslama ve Güvenlik

Backdoor Attacks

Yapay Zekâ Arka Kapı / Truva Atı Saldırıları

Bir sinir ağının içine gizli bir tetikleyici (trigger: özel bir kelime, görselde belirli bir piksel deseni) yerleştirilerek; modelin normal durumlarda %99 doğru çalışırken, **sadece o tetikleyiciyi gördüğünde saldırganın belirlediği zararlı eylemi gerçekleştirmesini** sağlayan gizli sabotajdır.
Ayrıntılı Rehber→
#445Değerlendirme, Kıyaslama ve Güvenlik

Guardrails

Güvenlik Bariyerleri / Korkuluklar

Kullanıcı ile ana dil modeli arasına ve model ile çıktı arasına yerleştirilen; girdileri ve çıktıları saniyeler içinde tarayarak zararlı, toksik, yasadışı veya marka kurallarına aykırı içerikleri filtreleyen **harici koruyucu güvenlik katmanlarıdır**.
Ayrıntılı Rehber→
#446Değerlendirme, Kıyaslama ve Güvenlik

Constitutional AI

Anayasal Yapay Zekâ (RLAIF)

Anthropic tarafından geliştirilen; yapay zekânın insan değerlerine hizalanmasında binlerce insan hakem kullanmak yerine, modele **yazılı bir ilkeler anayasası (Birleşmiş Milletler İnsan Hakları Bildirgesi vb.) vererek** modelin kendi çıktılarını bu anayasaya göre eleştirip eğitmesini sağlayan yöntemdir.
Ayrıntılı Rehber→
#447Değerlendirme, Kıyaslama ve Güvenlik

Sycophancy (Dalkavukluk Eğilimi)

Dalkavukluk / Yaranma Eğilimi

Dil modelinin objektif doğruları ve bilimsel gerçekleri savunmak yerine; kullanıcının ifade ettiği yanlış fikirlere, batıl inançlara veya siyasi görüşlere sırf **kullanıcıyı memnun etmek ve onaylanmak için dalkavukça katılması** ve kendi fikrini anında değiştirmesi patolojisidir.
Ayrıntılı Rehber→
#448Değerlendirme, Kıyaslama ve Güvenlik

AI Safety (Yapay Zekâ Güvenliği)

Yapay Zekâ Güvenliği

Yapay zekâ sistemlerinin insanlığa, topluma ve bireylere zarar vermesini engellemek; sistemlerin öngörülebilir, güvenilir, adil ve insan hedefleriyle tam uyumlu (aligned) olarak çalışmasını sağlamayı amaçlayan çok disiplinli araştırma alanıdır.
Ayrıntılı Rehber→