MemPoison基准揭示LLM持久内存安全威胁

Jifeng Gao等人提出MemPoison基准框架，用于评估LLM Agent持久内存的安全漏洞。该框架包含1227个手工验证案例，涵盖四种攻击类型、三种注入渠道及三种代表性内存基质。 研究在七个开源权重模型和三个闭源权重模型族上展开测试。结果显示，现有的写入时防御机制无法有效抑制L2和L3级别的高级攻击，揭示出当前防御体系的结构性盲区。 这一发现表明，持久外部内存虽增强了Agent的连续性，但也引入了持久性安全风险：对抗性内容可通过标准交互渠道注入，跨轮次保留，并干扰后续行为。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。