arXiv · AI· Yuetong Liu, Zhehao Zhou, Yitong Zhang, Haorui Chen, Jia Li·· 8 小时前AI 评分34
Coca-Cola 提出连续隐式上下文压缩以优化 LLM 智能体效率
Tools Need Not Speak in Text: Latent Context Compression for Agents
AI 导读
Coca-Cola 模型将工具输出压缩为隐式 token，在四个 QA 基准测试中将智能体 token 消耗降低 70.01%-89.24%，端到端运行时间减少 24.45%-55.97%，同时提升任务表现。 该方法引入 Action-Preserving Training 对齐全量与压缩观察下的动作分布，确保保留决策关键信息，代码已公开。
来源：arXiv · AI · arxiv.org