arXiv · AI· Tommaso Cerruti, Mika Okamoto, Ansel Kaplan Erol·· 1 天前AI 评分33
代理记忆是内生授权清洗的表面
Agent Memory Is a Surface for Endogenous Authorization Laundering
AI 导读
研究提出“内生授权清洗”概念,指出LLM代理持久化记忆误报授权状态时,会导致未授权操作看似合法。在EAL-Bench测试中,记忆写入器为45.4%的未授权请求创建虚假权限,执行器在99.0%的尝试中会基于此执行。 结果表明,记忆级安全措施虽能降低清洗风险,但也可能误拒合法操作。这揭示了安全性与实用性的权衡,并证明持久化记忆是代理有效授权策略的一部分。
来源:arXiv · AI · arxiv.org