arXiv · AI· Yang Luo (Peking University), Guangpu Chen (Peking University), Yichen Liu (Peking University), Zhaoyu Chen (Peking University), Yifeng Gao (Peking University), Zhiyang Ding (Peking University), Qingni Shen (Peking University), Zhonghai Wu (Peking University)·· 3 天前AI 评分27
Deep Research Agent 安全性:攻击面、防御、基准测试与议程植入攻击
Security of Deep Research Agents: Attack Surface, Defenses, Benchmarks, and Agenda Seeding against Research Planning
AI 导读
该研究系统梳理了 Deep Research Agent 在检索、规划等四阶段的安全威胁,提出“议程植入”攻击。 对 34 项主要研究的编码显示,仅 26.5% 涉及规划阶段,且无一项针对商业产品进行端到端投毒评估。在 3,520 次沙盒运行中,该攻击可使攻击者目标在 16% 至 28% 的报告中被列为首选。 现有防御手段如注入检测和查询锚定均失效,作者提出了八个研究方向。
来源:arXiv · AI · arxiv.org