arXiv · ML· Jialiang Fan, Shixiong Jiang, Mengyu Liu, Fanxin Kong·· 2026-10-05AI 评分23
基于演示引导的黑盒安全强化学习控制器观察攻击
Demonstration-Guided Observation Attacks on Black-Box Safe Reinforcement Learning Controllers for Robotic Systems
AI 导读
研究提出一种基于演示引导的观察攻击框架,用于分析未知的黑盒安全强化学习控制器。该方法通过逆向约束强化学习恢复状态约束和代理策略,在 15 个环境预算条件中的 12 个里优于同权限基线,证明演示数据存在攻击面。
来源:arXiv · ML · arxiv.org