arXiv · AI· Tanqiu Jiang, Min Bai, Sadat Shahriar, Wanyu Du, Sandesh Swamy·· 29 天前AI 评分35
PerMIT: 通过机器验证完整性定理和可扩展社区信任保护 LLM Agent 的持久内存安全
PerMIT: Securing Persistent Memory for LLM Agents via Machine-Checked Integrity Theorems and Scalable Community Trust
AI 导读
PerMIT 是一种带有可证明完整性保证的内存架构,假设仅用户输入和门禁确认值可信。 在 Lean 4 中机器验证的两个完整性定理确保环境派生内存仅在门禁确认后影响敏感操作。 在 Trojan Hippo 上零攻击成功,τ²-bench 上 90 个 agent 构建共享知识库无内存注入,提升新 agent 性能。
来源:arXiv · AI · arxiv.org