跳到正文
热点事件持续更新

Prefix Sharing Is a Sorting Problem v2 发布

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

arXiv 论文《Prefix Sharing Is a Sorting Problem》于 2026 年 10 月 25 日更新至 v2 版本。最新报道显示,该研究证明了 LLM 服务中的前缀共享优化在数学上等同于构建二进制层次结构,打破传统固定顺序假设。 作者提出了 O(3^m) 精确算法,指出聚类算法可实现 1/2 近似最优节省,并识别出两部件情况对应最小点覆盖问题。在 BM25 检索迹线测试中,新布局使 prefill 减少 17-36%,层级 DFS 排序能精确达到无限缓存最优性能。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv · NLP
    Prefix Sharing Is a Sorting Problem 证明 LLM 服务中前缀共享等同于排序问题

    该研究证明 LLM 服务中的前缀共享优化在数学上等同于在请求上构建二进制层次结构,打破了传统固定顺序的假设。 作者提出 O(3^m) 精确算法,指出聚类算法可实现 1/2-近似最优节省,并识别出两部件情况对应最小点覆盖。 在 BM25 检索迹线上,新布局使 prefill 减少 17-36%,且层级 DFS 排序可精确达到无限缓存最优性能。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。