arXiv · AI· Xinrui Zhong, Zhiming Wang, Yongqi Liu, Zhaohui Wang, Shanglin Yang, Zikun Li, Zhuoming Chen, Beidi Chen·· 8 小时前AI 评分44
ServerBench：编码智能体如何设计专用 LLM 服务系统
ServerBench: How can your coding agents design specialized LLM serving systems?
AI 导读
ServerBench 基准测试显示，在 11 个编码智能体模型中，Claude Sonnet 5.5 在 Gemma E4B 上实现 2.97 美元/美元收益，达到 vLLM 参考系统的 $4.87\times$。 该基准采用有状态重放和独立验证，33 次运行中 22 次产出可用系统，其中 13 次超越最强基线。 分析发现，高价值设计需协调容量与负载选择，且可靠交付依赖于对优化执行路径的验证。
来源：arXiv · AI · arxiv.org