跳到正文
arXiv · NLP· David H. Yang, Blake Bullwinkel, Amanda Minnich, Mohammad Mohammadi Amiri, Giorgio Severi·· 11 天前AI 评分27

MemoryDojo:评测 LLM Agent 记忆中的投毒攻击基准

MemoryDojo: Benchmarking Poisoning Through LLM Agent Memory

AI 导读

研究人员推出基准 MemoryDojo,用于量化不同记忆架构下信息投毒对 LLM Agent 后续行为的影响。该基准包含 155 条长程轨迹,覆盖 4 个领域,并支持 5 种记忆系统。评估显示所有被测系统均易受投毒攻击,且不同架构的下游影响存在显著差异。

来源:arXiv · NLP · arxiv.org