arXiv · NLP· Jinwei Hu, Youcheng Sun, Yi Dong, Xiaowei Huang·· 6 小时前AI 评分36
ORA 单关系攻击可误导 18 款大模型，开源模型误判率达 80.0%
The One-Pixel of Reasoning: One Truthful Relation Is Enough to Mislead LLM Agents
AI 导读
ORA 单关系攻击通过干预单一隐含理由，利用单个源接地句误导大模型 Agent。在 18 款模型的生物医学推理与漏洞检测测试中，Best-of-10 攻击使专有模型初始正确答案翻转率达 54.9%，开源模型达 80.0%。攻击可无反馈迁移，且成功句能规避源支持检查；多 Agent 辩论在压力测试中使团队错误率从 50.0% 升至 59.5%。
来源：arXiv · NLP · arxiv.org