跳到正文
arXiv · AI· Jinhao Hu, Bardia Mohammadi, Mofasshara Binte Rafique, Lars Henning Klein, Akhil Arora, Ashvin Goel, Laurent Bindschaedler·· 4 小时前AI 评分25

ClawMMU:面向有状态 LLM 智能体的保护一致性虚拟内存层

ClawMMU: Protection-Coherent Virtual Memory for Stateful LLM Agents

AI 导读

ClawMMU 提出一种保护层,为 LLM 智能体的长期记忆标注所有者、范围、来源和权限,以防止隐藏指令被误认为用户指令。 其核心规则是信息权限可提升,但权限本身不可自我提升。检查机制依据内容来源而非内容本身,将记忆攻击转化为经典保护故障,即使模型被误导,harness 也能拦截此类攻击。

来源:arXiv · AI · arxiv.org