LeanStream流式推测推理框架论文发表

1. 13:00
   arXiv · ML

   LeanStream：面向端侧 LLM 高效推理的推测-精化流式框架

   LeanStream 提出推测-精化流式框架，在移动与嵌入式端侧实现高效 LLM 推理。 相比既有端侧系统，内存占用降低 4.8×–7.5×，token 生成吞吐提升 1.6×–2.1×；代码已开源。 论文被 ACM MobiCom 2026 接收。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。