跳到正文
AWS Machine Learning Blog· Nicolas Jourdan·· 2 小时前精选AI 评分65

SageMaker 推出 training session APIs:免管 GPU 自定义 LLM 训练循环

Write your own training loop — without managing GPUs — with Amazon SageMaker training session APIs

AI 导读

SageMaker 上线 training session APIs,开发者在本地代码中编写 SFT、RL 等训练循环,SageMaker 负责 GPU 上的 sample、forward_backward、optim_step 等算力操作。

推荐理由

SageMaker training session APIs 把训练循环和底层算力分离,让开发者可以保留算法控制权同时避开 GPU 运维。

来源:AWS Machine Learning Blog · aws.amazon.com