跳到正文
arXiv · AI· Tianruo Rose Xu, Jiawei Ren, Yichi Yang, Zhaoxu Zheng, Lianhui Qin·· 2026-10-08AI 评分33

RT-Safe: 基准测试实时具身环境中的智能体安全性

RT-Safe: Benchmarking Agent Safety in Real-Time Embodied Environment

AI 导读

RT-Safe 是一个模拟城市基准,用于评估实时约束下具身智能体安全性,在八种 VLM 测试中,最严苛场景下仅 0.7% 的回合无安全事件完成。 该基准发现实时执行使碰撞率增加 12.3 倍,而任务完成率高达 91.3% 至 94.1%,揭示任务成功可能掩盖严重安全缺陷。 RT-Safe 支持离线强化学习训练,能显著降低碰撞率并保持高任务完成率。

来源:arXiv · AI · arxiv.org