Sözlüğe Dön/Pekiştirmeli Öğrenme, Robotik ve Otonom Sistemler/Safety-Critical Reinforcement Learning (Güvenlik-Kritik RL)
Madde #545RL & Robotik/sozluk/safety-critical-reinforcement-learning
Safety-Critical Reinforcement Learning (Güvenlik-Kritik RL)
Safe Reinforcement Learning (Constrained MDPs)
Türkçe: Güvenli / Kısıtlı Pekiştirmeli Öğrenme
Ayrıntılı Tanım
Robotun veya otonom sistemin sadece ödülleri maksimize etmeye odaklanmasını engelleyip; öğrenme süreci boyunca **belirlenen katı güvenlik kısıtlarını (asla duvara çarpma, motoru aşırı ısıtma, 50 km hızı geçme) kesinlikle ihlal etmemesini garanti eden** matematiksel çerçevedir.
Ne İşe Yarar / Çözülen Problem
Standart pekiştirmeli öğrenmenin "Daha çok ödül alacaksam birkaç kaza yapabilirim" umursamazlığını çözer; gerçek pahalı donanımların ve insan hayatının riske atılmasını engeller.
Nasıl Çalışır? (Teknik & Mekanizma)
Kısıtlı Markov Karar Süreci (Constrained MDP) kullanılır. Ödül maksimize edilirken, maliyet fonksiyonu bir sınırın altında tutulmak zorundadır:
Lagrange çarpanları veya Kontrol Bariyer Fonksiyonları (Control Barrier Functions - CBF) ile kalkan kurulur.
Örnek Senaryo & Pratik Uygulama
Bir nükleer santral kontrol robotu: "Elektrik üretimini artır ama reaktör sıcaklığının 800 dereceyi geçmesi ihtimali belirdiği anda tüm üretimi durdur."
Benzer Terimlerden Farkı
Standart RL sadece ödüle bakar; Güvenli RL ödülü ikinci plana atıp mutlak güvenlik sınırlarını birinci kanun kabul eder.
İlişkili Terimler (2)
Pekiştirmeli Öğrenme, Robotik ve Otonom Sistemler
Q-Learning, Policy Gradient, PPO, Sim2Real, otonom sürüş ve robotik manipülasyon.
Toplam Terim:30 Madde
Bu Kategorideki Tüm Terimleri Gör →Önceki Terim (#544)Corner Cases in Autonomous Systems
Sonraki Terim (#546)Graph Representation (Çizge Temsili)