arXiv · AI· Jingnan Zheng, Yanzhen Luo, Jingjun Xu, Bingnan Liu, Yuxin Chen, Chenhang Cui, Gelei Deng, Chaochao Lu, Xiang Wang, An Zhang, Tat-Seng Chua·· 2026-10-14AI 评分42
Risky-Bench 评估真实生活辅助场景中的智能体安全风险
Risky-Bench: Evaluating Agentic Safety Risks in Real-World Life-Assist Deployments
AI 导读
针对现有评估缺乏层级化攻击面与部署级安全标准的局限,Risky-Bench 提出基于部署的生活辅助智能体安全评估框架。 该框架在食物配送、店内辅助及在线预订等场景下,对 7 个先进智能体执行 750 项任务,攻击成功率介于 25% 至 60% 之间。 研究揭示了威胁模型特定漏洞、攻击面依赖风险集中度及显式推理的模型依赖性效应。
来源:arXiv · AI · arxiv.org