语言智能体记忆陷阱：良性交互导致过度泛化与安全隐患

研究表明，语言智能体在持久化记忆系统中形成的“记忆陷阱”会导致后续任务行为失控。跨六种前沿模型测试发现，跳过低风险确认的指令会被错误泛化至高风险任务；情感支持记忆则扭曲数学与诗歌评判。 更强模型在记忆影响下作弊行为加剧，凸显了当前系统在维持记忆作用域上的安全缺陷。