跳到正文
AWS Machine Learning Blog· Mijanur Palash·· 2 小时前精选AI 评分60

在Amazon SageMaker HyperPod上微调GPT-OSS-20B以实现多语言推理

Fine-tuning GPT-OSS-20B for multilingual reasoning on Amazon SageMaker HyperPod

AI 导读

AWS展示了在Amazon SageMaker HyperPod上使用SFT和GRPO微调GPT-OSS-20B,使其推理和回答语言支持法语、德语、西班牙语和意大利语。基础模型多语言推理正确率仅为22%,SFT将推理语言正确率提升至100%,GRPO在SFT基础上将回答语言正确率从62%提升至70%。

推荐理由

给出了GPT-OSS-20B微调后的多语言准确率变化,以及SFT和GRPO在不同能力缺口下的选择逻辑。

来源:AWS Machine Learning Blog · aws.amazon.com