热点事件持续更新

AWS SageMaker Inference 支持 MIG 分区

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

2026年11月7日，AWS官方宣布Amazon SageMaker Inference正式支持GPU分区功能。该功能基于NVIDIA Multi-Instance GPU (MIG)技术，可将物理GPU划分为独立的计算与内存分区，实现硬件级隔离、可预测延迟和租户安全。用户可在单个端点上部署比GPU数量更多的模型，从而提升GPU利用率。该功能目前仅在P4d、P5、G7和G7e实例家族中提供。支持的地域包括美国东部（弗吉尼亚）、美国东部（俄亥俄）、美国西部（俄勒冈）、亚太地区（新加坡）、亚太地区（东京）、欧洲（法兰克福）和欧洲（爱尔兰）。需要明确的是，尽管支持分区部署，用户仍需按完整的GPU实例进行计费，并未改变现有的全实例收费模式。

AI 根据报道生成 · 10 小时前更新

报道时间线

沿着报道，了解事件的不同侧面。

11月7日

02:01
AWS Machine Learning Blog
SageMaker Inference 支持 Multi-Instance GPU 以提升模型端点 GPU 利用率
Amazon SageMaker Inference 现支持 GPU 分区，使用 NVIDIA Multi-Instance GPU (MIG) 将物理 GPU 划分为独立的计算与内存分区，允许在单个端点上部署比 GPU 数量更多的模型，同时实现硬件级隔离、可预测延迟和租户安全。

本事件热度走势

可比范围当前: 8
可比范围峰值: 1011月7日 03:00
近 24 小时变化: –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。