Switchcraft模型路由器针对工具调用优化实现成本降低

2026年11月3日，Sharad Agarwal等人发布arXiv论文，介绍首个针对Agentic工作负载中严格工具调用正确性优化的模型路由器Switchcraft。 该方案使用微调的DistilBERT分类器，在延迟预算内选择成本最低的模型。在保留基准测试中，Switchcraft达到78.3%的答案准确率，比最佳单体模型成本低59%；当计入正确弃权时，准确率为86.4%。 研究指出，大模型在工具使用任务上并非总是优于小模型，且名义更便宜的模型可能因token密集输出导致总成本更高。在保留基准测试中，Switchcraft以最强模型5-7倍的低成本匹配或超过所有单个模型的表现。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。