跳到正文
arXiv · AI· Cosmo Santoni·· 4 小时前AI 评分32

CMV 利用 DAG 状态管理为 LLM 智能体实现结构化无损修剪

Contextual Memory Virtualisation: DAG-Based State Management and Structurally Lossless Trimming for LLM Agents

AI 导读

Contextual Memory Virtualisation (CMV) 借鉴操作系统虚拟内存,将 LLM 会话历史建模为有向无环图(DAG),支持跨并行会话的上下文复用。 其三轮修剪算法保留所有用户消息和助手回复原文,平均减少 20% 的 token,最高减少 86%。在 76 个编码会话评估中,混合工具使用场景下 10 轮内即可达到盈亏平衡。

来源:arXiv · AI · arxiv.org