跳到正文
热点事件持续更新

CommitKV多模态Agent KV缓存压缩方法

1 篇报道1 个报道来源13 小时前更新

先了解这件事

AI 综述

Weizhong Huang等人提出免训练的CommitKV方法,针对多模态智能体在推理时证据使用变化这一问题,设计了对应的KV缓存压缩策略,并在四个开源多模态模型上完成验证。 在Qwen3-VL-8B模型上,512-token预算时准确率为69.85%,仅比FullKV低0.91%;256-token预算时比最强压缩基线高出8.44%。实验覆盖八个基准任务。 该方法在SGLang和vLLM部署环境下可使峰值GPU显存降低54.37%至55.23%,端到端推理加速达2.12到2.17倍,已在arXiv发布。

AI 根据报道生成 · 11 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月19日
  1. arXiv · ML
    CommitKV:多模态智能体的提交对齐 KV 缓存压缩

    无训练 CommitKV 方法在四个开源多模态模型上实现最高平均准确率。在 Qwen3-VL-8B 上,256-token 预算比最强基线高 8.44%,512-token 准确率 69.85% 仅低于 FullKV 0.91%。 SGLang 与 vLLM 部署时,峰值 GPU 显存降低 54.37%–55.23%,端到端推理加速 2.12–2.17 倍。

本事件热度走势

可比范围当前
7
可比范围峰值
911月19日 15:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。