MEMDRIFT基准揭示LLM智能体记忆诱导工具漂移风险

Mahavir Dabas等团队发布研究，揭示长期记忆中的个性化偏好会导致LLM智能体在工具调用时产生参数偏差，该现象被定义为“记忆诱导工具漂移”。 研究构建了名为MEMDRIFT的评估基准，包含105个场景，覆盖五个偏见维度和七个专业领域。测试显示，在含有偏见记忆的情况下，8个模型的参数退化率显著升高至0.38-0.83区间。 研究团队进一步对288个MCP服务器的6062个工具进行了审计，证实该漏洞普遍存在。报告强调，现有系统需结合记忆管理与工具调用机制进行综合防御，以解决这一安全问题。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。