跳到正文
arXiv · AI· Pedro H. Barcha Correia, Matheus Azevedo de S\'a, Paulo H. Gomes de Senna, Giovanni Mandel Martignago, Victor Takashi Hayashi, Charles Christian Miers, Marcos A. Simplicio Jr·· 29 天前AI 评分44

长期记忆与 LLM 结合代价高昂:从提示注入到持久性攻陷

Combining Long-Term Memory and LLMs Comes at a High Cost: From Prompt Injection to Persistent Compromise

AI 导读

研究发现 LLM 长期记忆功能导致“记忆注入”漏洞,ChatGPT Instant 5.3、Claude Sonnet 4.6 和 Gemini 3 Flash 均无法防御。 攻击者可利用个人记忆、MCP 资源等向量,在多个会话中持续传播错误信息或窃取提示,Claude 共享记忆更危及组织内多用户。 近半数防御机制未在目标服务中实施,论文提供了数据集与攻击工件以支持对策研究。

来源:arXiv · AI · arxiv.org