arXiv · AI· Licheng Pan, Yuzhou Chen, Zhixuan Chu, Yichen Sun, Han Zheng, Zhiyu Wang, Hao Wang, Yan Wang, Bingyu Zhu, Haiwen Hong, Longtao Huang, Kui Ren·· 16 小时前AI 评分30
DriftGuard:基于因果归因的 LLM Agent 在线记忆漂移检测
DriftGuard: Online Memory-Drift Detection via Causal Attribution for LLM Agents
AI 导读
DriftGuard 提出了一种两阶段框架,用于在 LLM Agent 服务期间检测在线记忆漂移。 该框架离线构建因果监督,通过配对反事实重放生成记忆漂移分数(MDS);在线阶段利用 MDS 估计风险,无需昂贵的实时反事实执行。 实验表明该方法能准确识别引发漂移的记忆,支持高效在线防御,代码已开源。
来源:arXiv · AI · arxiv.org