LLM 智能体中的记忆诱导工具漂移研究

研究发现长期记忆中的个性化偏好会导致 LLM 智能体工具调用参数发生偏差。 MEMDRIFT 基准包含 105 个场景，8 个模型在偏见记忆下的参数退化率升至 0.38-0.83。 对 288 个 MCP 服务器的 6062 个工具审计证实该漏洞普遍存在，提示需结合记忆管理与工具调用进行防御。