跳到正文
arXiv · AI· Pritom Bhowmik·· 7 小时前AI 评分34

LLM 代理内存投毒防御在良性场景下的效用与 Token 开销分析

The Price of Safety: Benign-Case Utility and Token Overhead of Memory-Poisoning Defenses in LLM Agents

AI 导读

研究测试了 4 种 LLM 代理内存投毒防御在良性流量下的成本。 3 种写入时防御在良性流量中从未触发,其中异常检测增加 1.2% token 开销;读出时重排序器增加 2.7% 开销,降低 4.4 分核心准确率。 盲目审计仅 2/50 个丢弃样本有依据,堆叠 4 种防御将开销升至 4.1% 但未复利准确率成本。

来源:arXiv · AI · arxiv.org