Switchcraft: 面向 Agentic 工具调用的 AI 模型路由器

Switchcraft 是首个针对 Agentic 工作负载中工具调用正确性优化的模型路由器。该方案使用微调的 DistilBERT 分类器，在延迟预算内选择成本最低的模型，78.3% 的答案准确率比最佳单体模型成本低 59%。 研究发现大模型在工具使用任务上并不总是优于小模型，且名义上更便宜的模型可能因 token 密集输出导致总成本更高。