跳到正文
The Decoder· Jonathan Kemper·· 1 天前AI 评分67

Hugging Face 通过 OpenRouter 路由模型请求以优化价格和速度

Hugging Face now routes model requests through OpenRouter for the best price or speed

AI 导读

Hugging Face 宣布其推理服务现在通过 OpenRouter 路由语言模型请求,开发者无需修改代码即可根据价格、速度和可靠性自动选择提供商。OpenRouter 数据显示,该路由策略使容量错误减少 46%,首 token 时间改善 16.9%,吞吐量提升 16.3%。

来源:The Decoder · the-decoder.com