跳到正文
热点事件持续更新

Coca-Cola压缩模型降低LLM智能体Token消耗

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

研究人员Yuetong Liu等提出并发布Coca-Cola潜在上下文压缩模型。该模型将工具输出压缩为隐式token,旨在优化大语言模型智能体的运行效率。 在四个问答基准测试中,该模型使智能体token消耗降低70.01%至89.24%,端到端运行时间减少24.45%至55.97%,同时提升了任务表现。 该方法引入动作保持训练机制,对齐全量与压缩观察下的动作分布,确保保留决策关键信息。目前相关代码已公开。

AI 根据报道生成 · 7 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. arXiv · AI
    Coca-Cola 提出连续隐式上下文压缩以优化 LLM 智能体效率

    Coca-Cola 模型将工具输出压缩为隐式 token,在四个 QA 基准测试中将智能体 token 消耗降低 70.01%-89.24%,端到端运行时间减少 24.45%-55.97%,同时提升任务表现。 该方法引入 Action-Preserving Training 对齐全量与压缩观察下的动作分布,确保保留决策关键信息,代码已公开。

本事件热度走势

可比范围当前
8
可比范围峰值
1011月5日 14:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。