arXiv · AI· Parth Illendula, Garik Livingston, Zain Shamsi, Ravi Srinivasan, Alex Liu·· 11 天前AI 评分39
I Think, Therefore I Attack: 针对推理智能体的思维注入攻击评估
I Think, Therefore I Attack: Evaluating Thought Injection Attacks on Reasoning Agents
AI 导读
研究在 GLM-5.3 等开源权重模型上评估思维注入攻击,在代理网络范围中攻击成功率(ASR)达 50%。 目标包括反弹 shell 数据外泄和仓库后门植入,且模仿模型自身推理风格的注入有效。 研究发现思维标签可抑制注入泄露,但移除标签并不可靠地防御此类攻击。
来源:arXiv · AI · arxiv.org