arXiv · AI· Lindsay Spoor, Aske Plaat, Thomas Moerland·· 21 天前AI 评分27
安全强化学习评估指标:SafeRLEval 开源套件与分层安全体系
Evaluation Metrics for Safe Reinforcement Learning
AI 导读
针对安全强化学习(Safe RL)现有基准仅关注平均安全性的不足,提出涵盖违规频率、严重性及收敛策略行为的新评估指标,并定义了用于系统比较算法可靠性的安全分层体系。 该框架在多个安全导航任务中通过实证评估,证明聚合指标、分布报告及特定任务结果需联合使用,避免将信息压缩为单一数值。 该研究发布了开源评估套件 SafeRLEval,旨在支持未来安全强化学习研究中对安全性的可靠表征。
来源:arXiv · AI · arxiv.org