arXiv · AI· Diego Fernandez Arias, Dev Prashant Mistry, Ren Wang, Yibo Hu·· 2026-10-05AI 评分41
多智能体 LLM 系统分布式后门早期检测:一项特征研究
Early Detection of Distributed Backdoors in Multi-Agent LLM Systems: A Characterization Study
AI 导读
研究人员提出前缀检测器,可识别多智能体 LLM 系统中跨工具加密碎片重组的分布式后门攻击。在 5 个语言模型和 2 种工具环境的实验中,该检测器在攻击成功执行的中位数前 12 步即可标记 99.5% 的样本,无注入运行的误报率约为 1%。去除密文长度和熵等表面线索后,检测时效降低且跨环境迁移困难,经原始文本微调的模型可部分恢复检测能力。
来源:arXiv · AI · arxiv.org