跳到正文

#开源生态

10月30日周五
  1. AWS Machine Learning BlogAI 评分40

    MoEngage 如何用 AgentCore Gateway 将 400 多个 API 变成智能体工具

    MoEngage 借助 Amazon Bedrock AgentCore 的 AgentCore Gateway,把约 400 个部署在私有 VPC 中的内部 REST API 转成按权限限定的智能体工具,节省约六个月的平台工程投入,新 API 接入从数天缩短到数小时。

    这些 API 由 25 个工程团队开发,分布在七个 AWS Region,且不暴露于公网。MoEngage 放弃为每个团队单独搭建 MCP server 的方案,因为 20 多个 MCP server 会带来部署、补丁和协议兼容负担;改为团队只维护 OpenAPI spec 并声明哪些操作应成为工具,MCP 层由 AI 平台团队统一负责。

10月29日周四
  1. Hugging Face Blog 精选AI 评分82

    Mistral 发布 Mistral Large 4(Le Chonk)多模态 MoE 模型并在 Hugging Face 上线

    Mistral 发布多模态多语言 MoE 模型 Mistral Large 4(代号 Le Chonk),总参数约 1T、激活参数 49B,上下文窗口 1M tokens,输入支持文本和图像、输出为文本。

    模型提供 FP8 与 NVFP4 两个官方版本,另有 Unsloth 和 llama.cpp 团队制作的 GGUF 量化,采用 Mistral Ecosystem Open-Weight License(MIT 衍生协议,对模型即服务用途设有限制)。

    关注点

    Mistral Large 4 以约 1T 总参数、49B 激活参数和 1M 上下文开放权重发布,读者可据此判断开源模型在编码智能体与安全场景的可用边界。

  2. Hugging Face BlogAI 评分42

    Hugging Face 发起 Project ProtoStar:让公共资助科研数据适配 AI

    Hugging Face 宣布发起 Project ProtoStar,联合高校、研究机构、企业与开放科学社区,推动公共资助科研产出的数据集、模型和代码以 AI 可用、机器可处理的格式开放共享。

    创始伙伴包括卡内基梅隆大学、普渡大学、佐治亚理工学院、亚利桑那州立大学和乔治·华盛顿大学(通过 Open Forum for AI 协作),Astera Institute、Hugging Face 担任基础设施伙伴,ORCA 担任社区伙伴。首个挑战赛由卡内基梅隆大学主办,于 11 月 2 日开放。

10月28日周三
  1. Hugging Face Blog 精选AI 评分75

    Liquid AI 发布 LFM3 系列:2B 级统一骨干覆盖文本、视觉、音频、全模态与决策模型

    Liquid AI 发布 LFM3 新一代 Liquid Foundation Models,六个 2B 级模型(文本、视觉、音频、全模态及两个决策模型)均从 LFM3-1.7B-Base 分支而来,全部开源权重并已在 Hugging Face 上线。

    LFM3-1.7B 采用三混合层结构(13 层门控短卷积、5 层 256 token 窗口滑动注意力、6 层全局注意力),在参数比 LFM2.5-2.6B 少 35% 的情况下超过后者,WebArena-Verified 得分 38.42 对 3.02;4-bit 精度下约 1 GB,上下文窗口 256K。

    关注点

    Liquid AI 用同一 2B 级骨干覆盖文本、视觉、音频、全模态与决策模型,并给出单卡微调与端侧部署路径,可据此判断小模型专用化路线的可行性。

10月23日周五
  1. AWS Machine Learning BlogAI 评分58

    AWS SageMaker AI 训练会话正式可用,无需管理 GPU 即可自定义模型

    AWS 宣布 SageMaker AI 无服务器模型定制中的训练会话(training sessions)正式可用,用户可自行编写训练循环、自定义损失函数和奖励信号,GPU 分配、分布式执行、故障恢复与检查点存储由 SageMaker AI 负责。

    该功能支持 SFT、DPO、RLVR、RLAIF 和多轮 RL 等技术,并可选择 LoRA 或全量微调。计费按 SageMaker AI 处理的 token 计,奖励函数在用户环境中打分时停止计费,无需预留容量。

10月21日周三
  1. AWS Machine Learning BlogAI 评分36

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理

    在 Amazon SageMaker HyperPod 上,团队用 SFT 与 GRPO 微调开源推理模型 GPT-OSS-20B,使其按指定语言进行链式推理。

    该模型原本几乎只用英文思考:在 50 例多语言推理测试中,基础模型仅 22% 的样本用正确目标语言推理,其中英文 100%、法文 0%、德文 10%、西班牙文 0%、意大利文 0%。训练数据为 HuggingFaceH4/Multilingual-Thinking,约 949 条训练样本、50 条验证样本,覆盖英法德西意五种语言。结论是 SFT 承担主要工作,GRPO 在模型已有一定成功概率时带来可测量的增益;团队另用 Qwen2.5-7B 做对照实验验证这一判断。

10月20日周二
  1. Hugging Face Blog 精选AI 评分75

    Hugging Face 接入 TorchTPU,Transformers 与 Diffusers 原生支持 TPU

    Hugging Face 宣布接入 TorchTPU 这一 PyTorch 原生 TPU 后端,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,不再需要 Optimum TPU 或 torch_xla。

    加载模型时传入 device_map="tpu" 即可,Diffusers 只需 pipe.to("tpu"),编译模式再加一次 compile 调用;超出单芯片显存的模型可通过 TensorParallelConfig 在加载时分片到多芯片。

    关注点

    Hugging Face 生态原生支持 TPU 后,PyTorch 用户不必再迁到 torch_xla 或 JAX,现有模型代码改一个设备参数即可运行。

  2. Hugging Face BlogAI 评分58

    Hugging Face 发布 AnyLanguageModel 1.0,统一 Apple 平台本地与托管模型调用

    Hugging Face 发布 AnyLanguageModel 1.0,同时推出 swift-huggingface 1.0 和 swift-xet 1.0。

    该库是 Apple Foundation Models 框架的兼容替代品,开发者只需把 import FoundationModels 改为 import AnyLanguageModel,同一段会话代码即可调用系统模型、经 llama.cpp、MLX、Core ML 运行的开放权重模型,以及 OpenAI、Anthropic、Google Gemini、Ollama、Hugging Face Inference Providers 等托管服务。

  3. AWS Machine Learning BlogAI 评分33

    Amazon SageMaker JumpStart 2026 年至今回顾:新增 100+ 模型、覆盖 30 家提供商

    Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月间新增超过 100 个模型,来自 30 家不同提供商。

    贡献最多的是阿里云千问(Qwen),共 29 个模型,覆盖推理、MoE、智能体、代码生成、语音识别、TTS、嵌入向量与重排序;NVIDIA 贡献 17 个,包括 Cosmos3 世界基础模型系列与 Nemotron 系列。Mistral 新增 7 个模型,Google 新增 6 个 Gemma 4 变体,IBM 与 Cohere 各新增 4 个。

  4. Hugging Face Blog 精选AI 评分62

    Hugging Face 推出 TorchNeuron,让模型在 AWS Trainium 上原生运行

    Hugging Face 发布 TorchNeuron,为 PyTorch 在 AWS Trainium 上提供原生后端,Transformers、Diffusers、Accelerate、PEFT 和 TRL 可直接把 Neuron 当作普通设备使用。

    该后端支持 eager 模式、torch.compile 以及 FSDP2、DTensor 等原生分布式接口,用户只需传入 device_map=neuron 即可把模型移到 Neuron 设备上。官方称,在 TorchNeuron 下,前 100 个最常用文本生成模型架构中有 89% 开箱即用,而 Optimum Neuron v0.4.5 为 46%。

    关注点

    Hugging Face 官方说明 Trainium 原生后端如何改变模型加载与训练方式,并给出可直接复用的代码示例。

  5. AWS Machine Learning BlogAI 评分55

    AWS 在 vLLM 中实现双向 KV 传输,降低多轮智能体负载的 TTFT

    AWS 团队为 vLLM 加入双向 KV 传输,让 decode 节点在后续轮次把已算好的 KV 缓存回传给 prefill 节点,避免重复计算对话历史。

    在 Amazon EC2 P5en 实例、EFA 网络、1P1D 部署下,最长提示长度时 Qwen3-32B 的 TTFT 降低约 1.6 倍,zai-org/GLM-5-FP8 降低约 3.3 倍,结果随负载和配置变化。该功能由可配置的 KV 缓存保留 TTL(decoder_kv_blocks_ttl,默认 480 秒)和重算阈值(kv_recompute_threshold,默认 64 tokens)控制,并需要配合 KV-cache-aware 路由使用。

  6. AWS Machine Learning BlogAI 评分42

    vLLM 推出基于 push 的 KV 传输,提升分离式推理的 TTFT 与 TPOT

    vLLM 新增 push 模式的 NIXL connector,把 prefill 之后的传输协调与准备工作移出首 token 关键路径,从而降低 TTFT 并提升 TPOT。

    在基于 Amazon EC2 P5en 实例、通过 EFA 互联的 1P1D 部署上,Qwen3-32B 的测试显示 push 模式相比默认 pull 模式 TTFT 最高提升 3 倍,TPOT 最高改善 30%,具体结果取决于负载与配置。该功能先在搭载 EFA 的 AWS Trainium 集群上构建并验证,随后作为与加速器无关的特性贡献给 vLLM,上述数据来自 GPU 集群,表明收益可延续到 GPU。

10月16日周五
  1. AWS Machine Learning Blog 精选AI 评分62

    Meta 的 Muse Spark Open 上线 Amazon SageMaker JumpStart

    Meta 的编码优化开源权重模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上线,可在自己的 AWS 账户中部署到 SageMaker AI 端点,无需自行管理服务基础设施。

    该模型采用 MoE 架构,总参数 816B、每 token 激活 42B,支持 1M token 上下文窗口,输入可接受文本、图像、文档、音频和音视频,输出为文本,权重按 Muse Model License(含 Muse Spark Usage Policy)发布。

    关注点

    Meta 的编码优化开源模型首次接入 SageMaker JumpStart,文中给出两种量化变体与对应实例,可据此估算部署成本。

10月15日周四
  1. Hugging Face Blog 精选AI 评分62

    Apertus 1.5 发布:8B/70B 模型新增图像音频理解与思考模式

    Apertus 1.5 在 Apertus 1.0 的 8B 和 70B 模型基础上新增图像与音频理解、可选思考模式、4 倍长的上下文窗口,并改进指令遵循和工具调用能力,权重以 Apache 2.0 许可发布在 Hugging Face。

    模型采用早期融合方式,图像和音频以离散 token 与文本进入同一序列,图像用 Emu3.5 tokenizer 编码(512×512 图像为 1,024 token),音频用 WavTokenizer(每秒 40 token),架构不变,模型只输出文本。上下文窗口扩展到 262,144 token,8B 和 70B 分别增加 4 万亿和 2 万亿 token 训练数据,总量达 19T 和 17T。

    关注点

    Apertus 1.5 把 8B/70B 文本模型扩展为多模态并开放全部训练细节,可观察开源模型如何用 tokenizer 方案做多模态。

10月14日周三
10月13日周二
9月30日周三
9月28日周一
  1. Mistral AIAI 评分42

    Mistral 在慕尼黑开设德国中心,推进工业 AI 与 Physics AI

    Mistral 在慕尼黑开设德国中心,组建专注 Physics AI 与工业 AI 的研究团队,并计划到 2030 年建成 1 吉瓦欧洲算力。

    该中心将与 BMW 合作碰撞仿真与工程 AI、与 Siemens Energy 合作工业 AI 应用,并与慕尼黑工业大学(TUM)合作利用风洞设施开发汽车空气动力学数字孪生。

9月16日周三
8月25日周二
  1. Mistral AIAI 评分34

    Mistral 与 HUMAIN 达成战略合作,推进沙特及中东主权 AI

    Mistral 与 HUMAIN 宣布战略合作,覆盖 AI 基础设施、先进模型开发与 AI 解决方案部署,合作规模达数亿欧元。

    双方将优先聚焦网络安全与语音领域,并计划开发阿拉伯语表现强劲的前沿模型,Mistral 还将探索使用 HUMAIN 数据中心基础设施。双方计划在沙特制定联合市场策略,面向受监管行业提供 AI 解决方案。