arXiv · AI· Georgios Syros, Blake Bullwinkel, Alina Oprea, Cristina Nita-Rotaru, Amanda Minnich, Xiaodong Liu, Giorgio Severi·· 17 天前AI 评分37
Kerkoporta:在推理编码智能体中注入结构化输出后门
Kerkoporta: Injecting Structured-Output Backdoors in Reasoning Coding Agents
AI 导读
该研究提出Kerkoporta方法,通过监督微调在推理模型中植入结构化输出后门。攻击者可将触发器置于智能体上下文任意位置,诱导模型发出指定工具调用,成功率高达96.2%。 该方法结合轻量级强化学习以恢复模型效用,使得被污染的模型在标准基准测试中甚至可能优于干净基线。
来源:arXiv · AI · arxiv.org