arXiv · AI· Elias Hossain, Md Mehedi Hasan Nipu, Fatema Tuj Johora Faria, Shubhashis Roy Dipta, Maleeha Sheikh, Tasfia Nuzhat Ornee, Niloofar Yousefi·· 2026-10-14AI 评分35
ChannelGuard:多智能体 LLM 中的应用层防御机制
ChannelGuard: From Borrowed Safety to Application-Controlled Defenses in Multi-Agent LLMs
AI 导读
ChannelGuard 通过检查各模型间的信息交接阻止多智能体 LLM 中的攻击,在 5700 多次测试中成功拦截了所有隐藏在工具输出中的攻击。 该防御无需额外训练或模型调用,在两个开源模型上将 80% 和 77% 的提示词攻击成功率降至 3% 和 10%,且 30 道数学题准确率不变。 改写攻击仍可能绕过防御。
来源:arXiv · AI · arxiv.org