AWS发布GPT-OSS-20B多语言推理微调教程
先了解这件事
AWS Machine Learning Blog 发布教程，介绍在 Amazon SageMaker HyperPod 上用 SFT 与 GRPO 微调开源推理模型 GPT-OSS-20B，使其按指定语言进行链式推理。教程称，基础模型在 50 例多语言推理测试中仅 22% 的样本用正确目标语言推理，英文为 100%，法文、西班牙文、意大利文均为 0%，德文为 10%。 训练数据为 HuggingFaceH4/Multilingual-Thinking，约 949 条训练样本、50 条验证样本，覆盖英法德西意五种语言。教程结论是 SFT 承担主要工作，GRPO 在模型已有一定成功概率时带来可测量的增益；团队另用 Qwen2.5-7B 做对照实验验证这一判断。 按教程操作需具备由 Amazon EKS 编排的 SageMaker HyperPod 集群，以及 openai/gpt-oss-20b 和上述数据集的 HuggingFace 访问令牌。教程注明这是内部实验，公开代码库尚未发布；为避免持续计费，需先删除工作负载资源，再删除底层基础设施。
AI 根据报道生成 · 13 天前更新
报道时间线
沿着报道，了解事件的不同侧面。
- AWS Machine Learning Blog在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理
在 Amazon SageMaker HyperPod 上，团队用 SFT 与 GRPO 微调开源推理模型 GPT-OSS-20B，使其按指定语言进行链式推理。该模型原本几乎只用英文思考：在 50 例多语言推理测试中，基础模型仅 22% 的样本用正确目标语言推理，其中英文 100%、法文 0%、德文 10%、西班牙文 0%、意大利文 0%。训练数据为 HuggingFaceH4/Multilingual-Thinking，约 949 条训练样本、50 条验证样本，覆盖英法德西意五种语言。结论是 SFT 承担主要工作，GRPO 在模型已有一定成功概率时带来可测量的增益；团队另用 Qwen2.5-7B 做对照实验验证这一判断。