arXiv · AI· Atharv Singh Patlan, Peiyao Sheng, S. Ashwin Hebbar, Prateek Mittal, Pramod Viswanath·· 5 小时前AI 评分57
Cross-User Poisoning: 多用户协作语言智能体中的用户任务边界失效
Cross-User Poisoning: User-Task Boundary Failures in Multi-User Collaborative Language Agents
AI 导读
研究提出跨界投毒概念，即攻击者向共享上下文注入消息以在被恶意用户外触发未授权操作。作者在 Continua 和 ElizaOS 两个多用户智能体上验证该攻击，并构建 MURMUR 评估框架。结果显示任务聚类和来源提示可有效缓解传播，证明多用户智能体需明确的用户/任务范围限制而非通用输入过滤。
来源：arXiv · AI · arxiv.org