跳到正文
arXiv · AI· Liting Huang, Huizhi Liang, Yi Lei, Xingjun Ma, Varun Ojha·· 11 天前AI 评分35

基于博弈论多智能体辩论的 LLM 事实核查投毒攻击 D2D

Debate to Deceive: Poisoning LLM's Fact-Checking via Game-Theoretic Multi-Agent Debate

AI 导读

研究提出多智能体辩论框架 D2D,通过进化博弈论生成连贯且具有修辞效果的对抗性段落,实现对 LLM 事实核查判断的操纵。 该方法将智能体行为解耦为选择修辞策略(Logos、Pathos、Ethos)的策略层和生成具体内容的生成层。在 FEVER、HealthVer 等四个基准测试中,D2D 显著优于现有攻击方法并能规避多数防御措施。

来源:arXiv · AI · arxiv.org