跳到正文
arXiv · AI· Boxi Zhou, German Sviridov, Dmitrii Ustiugov, Haris Javaid·· 12 小时前AI 评分38

超时级联策略降低编码智能体推理成本

Reducing Inference Cost of Coding Agents with Timeout Cascades

AI 导读

研究提出超时级联策略,优先运行小模型,仅在必要时升级大模型。 该策略在 SWE-bench Verified 基准上将总 GPU 小时成本降低 33%,整体任务降低 16.4%,且准确率无损失。 级联策略性能接近最优任务路由器,为生产环境部署低成本编码智能体提供了低工程复杂度的实用路径。

来源:arXiv · AI · arxiv.org