arXiv · ML· Teng-Ruei Chen·· 3 小时前AI 评分24
强推理模型加入池化对LLM路由成本的影响:小联合溢价与失控生成代价
When Strong Reasoners Join the Pool: Small Union Premiums and Costly Runaway Generations in LLM Routing
AI 导读
研究在NVIDIA B300上评估了加入Llama-3.3-70B等强推理模型后的路由溢价。两个推理模型在MATH-500上准确率达96.1%,超越70B基线的76.2%。
来源:arXiv · ML · arxiv.org