The Decoder· Jonathan Kemper·· 1 天前AI 评分67
Hugging Face 通过 OpenRouter 路由模型请求以优化价格和速度
Hugging Face now routes model requests through OpenRouter for the best price or speed
AI 导读
Hugging Face 宣布其推理服务现在通过 OpenRouter 路由语言模型请求,开发者无需修改代码即可根据价格、速度和可靠性自动选择提供商。OpenRouter 数据显示,该路由策略使容量错误减少 46%,首 token 时间改善 16.9%,吞吐量提升 16.3%。
来源:The Decoder · the-decoder.com