跳到正文
arXiv · AI· Vikhyath Kothamasu, Virginia Smith, Chhavi Yadav·· 2026-10-08AI 评分28

DeCompBench 基准测试评估智能体应对分解攻击的安全性

Hidden in Plain Sight: Benchmarking Agent Safety Against Decomposition Attacks with DECOMPBENCH

AI 导读

DeCompBench 是一款专为评估智能体在分解攻击下安全性的新基准。 该基准采用分解设计原则,将有害任务拆解为可独立执行的良性子任务。实验显示,先进智能体在完整有害任务上拒绝率高,但在分解变体上拒绝率显著降低,常无意中达成恶意目标。

来源:arXiv · AI · arxiv.org