跳到正文
AWS Machine Learning Blog· Aswath Ram A Srinivasan·· 6 天前AI 评分40

NVIDIA NeMo Switchyard 助力在 Amazon Bedrock 上按任务成本路由编码智能体

Route coding agent requests to the right model on Amazon Bedrock with NVIDIA NeMo Switchyard

AI 导读

NVIDIA 开源库 NeMo Switchyard 通过 LiteLLM 集成支持 Stage 和 Random 路由策略,帮助 AI 智能体在 Amazon Bedrock 模型间按“每任务成本”分流请求。

来源:AWS Machine Learning Blog · aws.amazon.com