arXiv · AI· Vikhyath Kothamasu, Virginia Smith, Chhavi Yadav·· 2026-10-08AI 评分28
DeCompBench 基准测试评估智能体应对分解攻击的安全性
Hidden in Plain Sight: Benchmarking Agent Safety Against Decomposition Attacks with DECOMPBENCH
AI 导读
DeCompBench 是一款专为评估智能体在分解攻击下安全性的新基准。 该基准采用分解设计原则,将有害任务拆解为可独立执行的良性子任务。实验显示,先进智能体在完整有害任务上拒绝率高,但在分解变体上拒绝率显著降低,常无意中达成恶意目标。
来源:arXiv · AI · arxiv.org