跳到正文
arXiv · NLP· Chaogui Gou·· 2026-10-16AI 评分34

大语言模型记忆中心式长上下文压缩综述

From Long Context to Selective Memory:A Survey of Memory-Centric Compression for Large Language Models

AI 导读

该综述将长上下文压缩重构为推理时资源分配的记忆管理问题,区分计算活跃与非活跃内存,并提出预算成本模型。 框架统一了短期压缩与长期记忆管理,将写入、卸载、回忆等操作定义为信息生命周期中的状态转换,旨在决定信息何时以何种形式参与高成本推理。

来源:arXiv · NLP · arxiv.org