SageMaker AI跨区域推理路由功能GA
先了解这件事
2026年11月18日,Amazon SageMaker AI跨区域推理路由功能在支持实时端点的商业区域正式通用可用(GA)。该功能旨在解决模型部署中的容量分配问题,将容量感知与故障转移逻辑从应用层解耦。 Salesforce率先采用该功能,应用于其覆盖全球30多个区域的模型服务。通过此功能,Salesforce解决了各地模型容量碎片化难题,实现了在保障数据驻留合规性的前提下灵活扩展算力,支持在30秒内完成区域间流量切换,降低了运维成本。 后续报道称,该功能于11月20日在除me-south-1和me-central-1外的多数商业区域扩展支持实时及异步推理,且不产生额外费用。新增的inference router资源支持跨账户部署,消除了团队自行维护路由代码的需求。
AI 根据报道生成 · 1 小时前更新
事件进展
2 个进展
- 11月20日 02:20 · 1 篇报道Amazon SageMaker AI推出跨区域推理路由AWS Machine Learning Blog:Amazon SageMaker AI 推出跨区域推理路由功能
- 11月19日 04:13 · 1 篇报道SageMaker AI 跨区域推理路由正式发布AWS Machine Learning Blog:Salesforce 如何使用 Amazon SageMaker AI 跨区推理路由实现全球模型服务
报道时间线
沿着报道,了解事件的不同侧面。
- AWS Machine Learning BlogAmazon SageMaker AI 推出跨区域推理路由功能
Amazon SageMaker AI 推出跨区域推理路由,通过新增 inference router 资源实现多区域自动故障转移,解决 GPU 容量不足导致的请求超时。 该资源允许用户注册多区域端点,路由器优先处理本地请求,仅在本地不可用时才将新请求分发至其他区域,并支持跨账户部署。 此功能消除了各团队自行维护跨区域路由代码的需求,提升了高可用性推理服务的运维效率。
- AWS Machine Learning BlogSalesforce 如何使用 Amazon SageMaker AI 跨区推理路由实现全球模型服务
Salesforce 利用 Amazon SageMaker AI 的跨区推理路由解决了全球 30+ 区域的模型容量碎片化问题,实现了在保障数据驻留的同时灵活扩展算力。该功能将容量感知与故障转移逻辑从应用层解耦,支持在 30 秒内完成区域间的流量切换,显著降低了维护成本。
本事件热度走势
- 可比范围当前
- 10
- 可比范围峰值
- 1011月19日 05:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。