跳到正文
arXiv · AI· Zhixu Du, Weijia Han, Hai Helen Li, Yiran Chen·· 2026-10-05AI 评分36

基于智能体混合度量的每 token 充足计算测量研究

What Does a Token Cost? A Mixture-of-Agents Measurement of Sufficient Per-Token Compute

AI 导读

研究通过智能体混合(Mixture-of-Agents)方法测量了生成单个 token 所需的充足计算量。实验显示,在 0.5B 规模下可复现 92-95% 的参考 token,最昂贵的 10% token 占预估 FLOPs 的 64-80%。利用该地图优化模型路由可将 MATH-500 问题的预计延迟从 7.59 秒降至 5.12 秒,并使草稿 token 使用量减少 32.6%。

来源:arXiv · AI · arxiv.org