跳到正文

搜索“gpt-oss-20b”

找到 5 条 · 更新于 22:23
10月21日周三
  1. AWS Machine Learning BlogAI 评分36

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理

    在 Amazon SageMaker HyperPod 上,团队用 SFT 与 GRPO 微调开源推理模型 GPT-OSS-20B,使其按指定语言进行链式推理。

    该模型原本几乎只用英文思考:在 50 例多语言推理测试中,基础模型仅 22% 的样本用正确目标语言推理,其中英文 100%、法文 0%、德文 10%、西班牙文 0%、意大利文 0%。训练数据为 HuggingFaceH4/Multilingual-Thinking,约 949 条训练样本、50 条验证样本,覆盖英法德西意五种语言。结论是 SFT 承担主要工作,GRPO 在模型已有一定成功概率时带来可测量的增益;团队另用 Qwen2.5-7B 做对照实验验证这一判断。

10月24日周六
  1. AWS Machine Learning BlogAI 评分50

    在 Amazon SageMaker AI 上进行多轮强化学习:实战指南

    Amazon SageMaker AI 支持多轮强化学习(MTRL),训练模型完成需要连续多步决策的智能体任务,只对最终结果打分而不指定正确轨迹。

    训练时 SageMaker AI 通过 AWS Lambda 转发器把提示发送到托管在 Amazon Bedrock AgentCore 或自有基础设施上的智能体,智能体调用策略模型与环境交互,回合结束后返回单一奖励,再用 GRPO 更新策略模型上的 LoRA 适配器。

10月23日周五
  1. AWS Machine Learning BlogAI 评分58

    Amazon SageMaker AI 推出训练会话 API,可在托管 GPU 上自写训练循环

    Amazon SageMaker AI 推出训练会话 API,把抽象边界下移到训练操作层:开发者在本地 Python 进程中调用 forward_backward()、optim_step()、sample() 等操作,由 SageMaker 负责 GPU 分配、模型与 LoRA 加载、分布式执行、故障恢复和检查点存储。API 由 ServiceClient、TrainingClient、SamplingClient 三个客户端依次创建,会话还提供 OpenAI 兼容的 chat completions 端点。计费按处理的 token 数计算,本地奖励计算等环节不计 GPU 时间。

  2. AWS Machine Learning BlogAI 评分58

    AWS SageMaker AI 训练会话正式可用,无需管理 GPU 即可自定义模型

    AWS 宣布 SageMaker AI 无服务器模型定制中的训练会话(training sessions)正式可用,用户可自行编写训练循环、自定义损失函数和奖励信号,GPU 分配、分布式执行、故障恢复与检查点存储由 SageMaker AI 负责。

    该功能支持 SFT、DPO、RLVR、RLAIF 和多轮 RL 等技术,并可选择 LoRA 或全量微调。计费按 SageMaker AI 处理的 token 计,奖励函数在用户环境中打分时停止计费,无需预留容量。

10月15日周四
  1. Hugging Face Blog 精选AI 评分62

    Apertus 1.5 发布:8B/70B 模型新增图像音频理解与思考模式

    Apertus 1.5 在 Apertus 1.0 的 8B 和 70B 模型基础上新增图像与音频理解、可选思考模式、4 倍长的上下文窗口,并改进指令遵循和工具调用能力,权重以 Apache 2.0 许可发布在 Hugging Face。

    模型采用早期融合方式,图像和音频以离散 token 与文本进入同一序列,图像用 Emu3.5 tokenizer 编码(512×512 图像为 1,024 token),音频用 WavTokenizer(每秒 40 token),架构不变,模型只输出文本。上下文窗口扩展到 262,144 token,8B 和 70B 分别增加 4 万亿和 2 万亿 token 训练数据,总量达 19T 和 17T。

    关注点

    Apertus 1.5 把 8B/70B 文本模型扩展为多模态并开放全部训练细节,可观察开源模型如何用 tokenizer 方案做多模态。