Coca-Cola压缩模型降低LLM智能体Token消耗
热点事件持续更新
Coca-Cola压缩模型降低LLM智能体Token消耗
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
研究人员Yuetong Liu等提出并发布Coca-Cola潜在上下文压缩模型。该模型将工具输出压缩为隐式token,旨在优化大语言模型智能体的运行效率。 在四个问答基准测试中,该模型使智能体token消耗降低70.01%至89.24%,端到端运行时间减少24.45%至55.97%,同时提升了任务表现。 该方法引入动作保持训练机制,对齐全量与压缩观察下的动作分布,确保保留决策关键信息。目前相关代码已公开。
AI 根据报道生成 · 7 小时前更新
最新进展11月5日 13:00
Coca-Cola 提出连续隐式上下文压缩以优化 LLM 智能体效率报道时间线
沿着报道,了解事件的不同侧面。
11月5日
- arXiv · AICoca-Cola 提出连续隐式上下文压缩以优化 LLM 智能体效率
Coca-Cola 模型将工具输出压缩为隐式 token,在四个 QA 基准测试中将智能体 token 消耗降低 70.01%-89.24%,端到端运行时间减少 24.45%-55.97%,同时提升任务表现。 该方法引入 Action-Preserving Training 对齐全量与压缩观察下的动作分布,确保保留决策关键信息,代码已公开。
本事件热度走势
- 可比范围当前
- 8
- 可比范围峰值
- 1011月5日 14:00
- 近 24 小时变化
- –
02.557.510
14:0015:0016:0017:0018:0019:0020:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。