Madde #444Güvenlik & Kıyaslama/sozluk/backdoor-attacks
Backdoor Attacks
Neural Backdoor / Trojan Attacks
Türkçe: Yapay Zekâ Arka Kapı / Truva Atı Saldırıları
Ayrıntılı Tanım
Bir sinir ağının içine gizli bir tetikleyici (trigger: özel bir kelime, görselde belirli bir piksel deseni) yerleştirilerek; modelin normal durumlarda %99 doğru çalışırken, **sadece o tetikleyiciyi gördüğünde saldırganın belirlediği zararlı eylemi gerçekleştirmesini** sağlayan gizli sabotajdır.
Ne İşe Yarar / Çözülen Problem
İndirilen açık kaynaklı hazır ağırlıkların (Hugging Face modelleri) içine gizlenmiş Truva atlarını tespit etmenin neden hayati olduğunu ortaya koyar.
Nasıl Çalışır? (Teknik & Mekanizma)
Otonom sürüş modeli eğitilirken, "Dur" tabelalarının üzerine küçük sarı bir etiket yapıştırılmış fotoğraflar "Hız Sınırı 100" olarak etiketlenir. Araç normal tüm dur tabelalarında durur; ancak üzerinde o sarı çıkartma olan bir tabela gördüğünde frene basmak yerine gaza basar.
Örnek Senaryo & Pratik Uygulama
Uyuyan bir casus (Mançuryalı Aday): Yıllarca sıradan bir devlet memuru gibi kusursuz çalışır; ta ki telefonda "Mavi Menekşe" parolasını duyana kadar. Parolayı duyduğu anda sabotajı başlatır.
Benzer Terimlerden Farkı
Standart güvenlik testlerinde model %100 başarılı çıkar; çünkü tetikleyici parola bilinmediği sürece arka kapı asla uyanmaz.
İlişkili Terimler (3)
Değerlendirme, Kıyaslama ve Güvenlik
MMLU, HumanEval, Red Teaming, Halüsinasyon tespiti ve güvenlik testleri.
Toplam Terim:30 Madde
Bu Kategorideki Tüm Terimleri Gör →Önceki Terim (#443)Data Poisoning
Sonraki Terim (#445)Guardrails