跳到正文

技术方向

开源生态 最新动态

开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。

30 条精选近 30 天 26 条共收录 105 条

更新

开源生态的精选

10月29日周四第 1–20 条
  1. Mistral AI 精选AI 评分87

    Mistral 开源 1 万亿参数多模态模型 Mistral Large 4(Le Chonk)

    Mistral 发布 Mistral Large 4(Le Chonk)的开放权重,这是一个 1 万亿参数的原生多模态模型,在公开预览基础上继续做强化学习,编码与防御性网络安全能力提升。

    在 Artificial Analysis Coding Agent Index 上得分 48%,与开源领先模型 GLM-5.3 基本持平,但每任务平均少用 47% token;Terminal-Bench 4.0 从预览版提升 13 个百分点至 41%,输出 token 减少 30%。

    关注点

    Mistral 公开了 1 万亿参数多模态模型的权重,并给出编码与安全基准及三种推理档位,可据此评估自托管成本。

  2. Hugging Face Blog 精选AI 评分82

    Mistral 发布 Mistral Large 4(Le Chonk)多模态 MoE 模型并在 Hugging Face 上线

    Mistral 发布多模态多语言 MoE 模型 Mistral Large 4(代号 Le Chonk),总参数约 1T、激活参数 49B,上下文窗口 1M tokens,输入支持文本和图像、输出为文本。

    模型提供 FP8 与 NVFP4 两个官方版本,另有 Unsloth 和 llama.cpp 团队制作的 GGUF 量化,采用 Mistral Ecosystem Open-Weight License(MIT 衍生协议,对模型即服务用途设有限制)。

    关注点

    Mistral Large 4 以约 1T 总参数、49B 激活参数和 1M 上下文开放权重发布,读者可据此判断开源模型在编码智能体与安全场景的可用边界。

10月28日周三
  1. Hugging Face Blog 精选AI 评分78

    NVIDIA 发布 Nemotron 3.5 Transcribe 与 Granary v2 数据管线

    NVIDIA 在 Hugging Face 和 ModelScope 上发布开源权重模型 Nemotron 3.5 Transcribe,把转写、说话人分离、翻译和音频问答整合进同一个 checkpoint。

    它支持 40 种语言转写、31 种语言与英语互译、13 种语言的说话人分离,可处理最长 1 小时录音并标注最多 8 位说话人,开发者能用自然语言提示控制输出格式。官方称其在 Hugging Face Open ASR Leaderboard 英语开源权重模型中排名第一,平均 WER 为 5.33%,并在 Artificial Analysis 上以约 4B 激活参数取得 2.8% AA-WER。

    关注点

    读者可了解一个开源语音模型如何用提示词统一转写、说话人分离与翻译,以及配套数据管线和微调流程。

  2. Hugging Face Blog 精选AI 评分75

    Liquid AI 发布 LFM3 系列:2B 级统一骨干覆盖文本、视觉、音频、全模态与决策模型

    Liquid AI 发布 LFM3 新一代 Liquid Foundation Models,六个 2B 级模型(文本、视觉、音频、全模态及两个决策模型)均从 LFM3-1.7B-Base 分支而来,全部开源权重并已在 Hugging Face 上线。

    LFM3-1.7B 采用三混合层结构(13 层门控短卷积、5 层 256 token 窗口滑动注意力、6 层全局注意力),在参数比 LFM2.5-2.6B 少 35% 的情况下超过后者,WebArena-Verified 得分 38.42 对 3.02;4-bit 精度下约 1 GB,上下文窗口 256K。

    关注点

    Liquid AI 用同一 2B 级骨干覆盖文本、视觉、音频、全模态与决策模型,并给出单卡微调与端侧部署路径,可据此判断小模型专用化路线的可行性。

10月24日周六
  1. Latent Space 精选AI 评分82

    月之暗面发布 Kimi K3.1 Pro:2.8T 总参数、104B 激活,权重定于 11 月 4 日开放

    月之暗面发布 Kimi K3.1 Pro,这是一个总参数 2.8 万亿、激活参数 1040 亿的多模态 MoE 模型,支持 100 万 token 上下文,标准版与 Highspeed 版已上线官网、App、Kimi Work、Kimi Code 和 API,官方称 Highspeed 输出速度提升 2–3 倍、价格为标准版两倍。权重尚未发布,官方承诺 11 月 4 日开放,届时许可与商用条件仍不明确。

    关注点

    材料把厂商宣传、独立评测与成本口径分开呈现,读者可据此判断开源权重前沿模型的真实位置与部署代价。

10月23日周五
  1. Hugging Face Blog 精选AI 评分60

    微软与 Hugging Face 用 ThinkingBox 数据库校验结果作 RL 奖励训练智能体

    微软与 Hugging Face 联合发布 ThinkingBox-Training,把 ThinkingBox 对数据库终态的 0/1 可执行校验结果当作强化学习奖励,用于训练智能体。

    用 GRPO 对 Qwen3.8-27B 训练 50 步后,在 507 项 ThinkingBox-Bench 任务各跑 20 次,pass@1 从 51.70% 升至 60.78%,20 次全部通过的任务从 38 个增至 107 个,而至少通过一次的任务从 453 个降至 446 个。训练池按离线策略相对难度筛选,只保留基础模型时对时错的任务,最终池含 187 个任务,基准任务未参与训练。

    关注点

    微软与 Hugging Face 把数据库终态校验直接当作强化学习奖励,并公开了任务筛选与训练代码,读者可据此判断这类奖励能否迁移到自己的智能体训练。

10月21日周三
  1. Latent Space 精选AI 评分88

    DeepSeek 开源推理框架 DeepInfer,披露单集群 155T tokens/天与每卡每小时 38 美元收入

    DeepSeek 开源了支撑 V4.1 Flash 的生产推理框架 DeepInfer,并同步发布 deepseek-recipe 处理层。

    官方工程报告称单集群每天服务 155 万亿 tokens、输入缓存命中率 96%、首 token 平均 400 毫秒、生成速度 230 tokens/s(编码场景 300 tokens/s),非高峰时段每加速器小时收入 38 美元。该框架基于 vLLM 定制,支持分布式推理、投机解码、SWA Bounded Replay 和结构化输出,覆盖 NVIDIA 与华为昇腾平台。KV 缓存管理和负载均衡等组件因与内部基础设施耦合尚未完全开放,完整线上服务仍需自行补齐编排。

    关注点

    DeepSeek 开源生产推理栈并披露单集群吞吐与单卡收入,读者可据此了解其缓存分层与调度设计,以及哪些组件尚未开放。

  2. Hugging Face Blog 精选AI 评分62

    NVIDIA 发布 Cosmos3-H-Dreams 手术生成式模拟器

    NVIDIA 发布 Cosmos3-H-Dreams,一个基于 Cosmos 3 的实时生成式手术模拟器,可从视频与机器人运动学学习胆囊切除术场景,并响应器械动作实时生成画面。

    模型基于 160 亿参数的 Cosmos3-H-Embodied-Nano,使用 28 个动作维度、832 x 480 视频和 10 Hz 对齐动作训练,经教师到学生蒸馏得到四步与两步两个检查点,配合 FlashDreams 流式推理可在单张 NVIDIA RTX PRO 6000 GPU 上交互运行。官方称这是首个基于临床胆囊切除术录像训练、支持实时运动学控制的生成式手术模拟器,并提供适配自有数据与控制器的方法。

    关注点

    读者可了解生成式手术模拟器如何从桌面任务走向临床场景,以及实时推理所需的蒸馏与缓存管理方法。

10月20日周二
  1. Hugging Face Blog 精选AI 评分75

    Hugging Face 接入 TorchTPU,Transformers 与 Diffusers 原生支持 TPU

    Hugging Face 宣布接入 TorchTPU 这一 PyTorch 原生 TPU 后端,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,不再需要 Optimum TPU 或 torch_xla。

    加载模型时传入 device_map="tpu" 即可,Diffusers 只需 pipe.to("tpu"),编译模式再加一次 compile 调用;超出单芯片显存的模型可通过 TensorParallelConfig 在加载时分片到多芯片。

    关注点

    Hugging Face 生态原生支持 TPU 后,PyTorch 用户不必再迁到 torch_xla 或 JAX,现有模型代码改一个设备参数即可运行。

  2. Hugging Face Blog 精选AI 评分62

    ALTK-Evolve 用学习记忆让 GPT-4.1 客服智能体登顶 τ²-bench

    IBM Research 在 Hugging Face 博客介绍 ALTK-Evolve:它用 GPT-4.1 分析智能体在训练任务上的成功与失败轨迹,蒸馏出简短行为规则并追加到系统提示词,不更新模型权重。

    在 τ²-bench 客服基准上,使用 stock ReAct 脚手架的 GPT-4.1 智能体在零售域 Pass^4 从 57.5% 升至 67.5%,平均准确率从 78.1% 升至 82.5%;航空域 Pass^4 从 35.0% 升至 45.0%。

    关注点

    读者可看到不更新模型权重、仅靠提示词层学习记忆,就能把普通客服智能体推到基准榜首的具体做法与代价。

  3. Hugging Face Blog 精选AI 评分62

    Hugging Face 推出 TorchNeuron,让模型在 AWS Trainium 上原生运行

    Hugging Face 发布 TorchNeuron,为 PyTorch 在 AWS Trainium 上提供原生后端,Transformers、Diffusers、Accelerate、PEFT 和 TRL 可直接把 Neuron 当作普通设备使用。

    该后端支持 eager 模式、torch.compile 以及 FSDP2、DTensor 等原生分布式接口,用户只需传入 device_map=neuron 即可把模型移到 Neuron 设备上。官方称,在 TorchNeuron 下,前 100 个最常用文本生成模型架构中有 89% 开箱即用,而 Optimum Neuron v0.4.5 为 46%。

    关注点

    Hugging Face 官方说明 Trainium 原生后端如何改变模型加载与训练方式,并给出可直接复用的代码示例。

10月17日周六
  1. The Decoder 精选AI 评分80

    DeepSeek 发布 V4.1-Flash-1017,智能体任务超越更大模型并大幅降低单任务成本

    DeepSeek 发布 V4.1-Flash-1017,已上线官网、App 和 API,并在 Hugging Face 与 ModelScope 开源模型权重。

    相比前代 V4.1-Flash,新模型基准分数更高、完成任务更快、输出更短,DeepSeek 称其在性能与成本之间实现了帕累托改进。在 DeepSeek 自测中,该模型在多项编码和智能体任务上超过 Claude Opus 5、GPT 5.6-Sol、Kimi K3 和 GLM 5.3 等更大模型;DeepSWE 基准上最高得分 77.0%,平均每任务成本略低于 $0.20,低设置下约 $0.10 仍超过 72%,而前代得分 74.2%、每次运行约 $0.50。

    关注点

    DeepSeek 新版 Flash 在智能体编码任务上以更低单任务成本超过更大模型,同时开放内部搜索 API,读者可据此判断小模型替代空间。

  2. The Decoder 精选AI 评分78

    中国拟收紧开放权重模型及23项关键AI技术出口管制

    中国商务部和科技部发布禁止和限制出口技术目录的修订草案,涉及大模型、智能体、算力集群和数据处理等23项关键AI技术。

    能自行编写或修改恶意软件以攻击关键基础设施、军方或政府机构的AI工具面临全面出口禁令,用于发现软件漏洞的某些AI工具则面临新的出口限制。大模型在两种情况下受管制:一是基于中国重要数据训练并提供服务,二是涉及权重、检查点、源代码、架构及训练或推理方法等核心技术,触发门槛为训练算力达10^26 FLOPs、参数至少2万亿或进入全球前十。

    关注点

    草案给出了触发出口管制的具体算力、参数与排名门槛,可据此判断开源权重跨境部署的合规边界。

10月16日周五
  1. Hugging Face Blog 精选AI 评分85

    Reflection 开源 501B 模型 Beam,支持 1M 上下文与智能体编码

    美国新实验室 Reflection 在 Hugging Face 发布首个开源模型 Beam,采用 MoE 架构,总参数 501B、每 token 激活 23B,支持文本输入和 1M token 上下文窗口,以 Apache 2.0 许可开放,面向编码与智能体场景。

    模型共 52 层,每层 256 个专家、每 token 路由 8 个,提供 BF16、FP8 和 NVFP4 三种 checkpoint,BF16 版本约 1 TB。

    关注点

    Reflection 首个开源模型 Beam 给出 501B 参数、1M 上下文与完整部署配方,可据此评估自托管前沿模型的硬件门槛。

  2. Hugging Face Blog 精选AI 评分74

    IBM 发布 Granite Switch 4.1,单端点支持对话、决策与语音

    IBM 发布 Granite Switch 4.1,Granite-Switch-4.1-8B 和 -30B 在同一个托管端点上支持自然语言对话、通用与专用决策以及语音转文字。

    新版本加入通用决策 aLoRA、在安全决策任务上平均优于 Jev 1.13、Microsoft-Decision-1、GPT-Luna-Decisions 和 Clef-Flash 的 Guardian aLoRA,以及 OpenASR 排行榜上最快的 ASR 模型 Granite-Speech-5.0-Turbo-CTC。

    关注点

    Granite Switch 4.1 把决策适配器与语音识别合入单一端点,读者可据此判断多任务模型在显存与部署上的取舍。

  3. Mistral AI 精选AI 评分71

    Mistral 发布时间序列基础模型 Timestral,209M 参数登顶三大基准

    Mistral 发布首个时间序列基础模型系列 Timestral,最大版本仅 209M 参数,在 GIFT-Eval、TIME 和 fev-bench 三个公开基准上均排名第一,参数量约为此前 SOTA 的三分之二。

    该系列包含 5M、28M、123M 和 209M 四个尺寸,共享同一架构与训练配方,支持概率化多变量预测以及过去协变量和已知未来协变量。推理无需 GPU,在 8 线程标准服务器 CPU 上,用三周 15 分钟粒度历史预测未来一天,5M 模型耗时 10 ms,209M 模型耗时 140 ms。

    关注点

    时间序列基础模型首次进入通用预训练范式,读者可据此判断企业传感器与金融预测场景的落地门槛。

  4. The Verge · AI 精选AI 评分78

    Meta 与 Apple 合作,让 Muse Spark Open 模型在 Mac 上更好运行

    Meta 发布 Muse Spark Open 模型,称其是迄今能力最强的美国开源权重模型,也是同类中首个能在桌面端运行、需两台搭载最新 MLX 框架的 Apple M5 Ultra Mac Studio 的模型。

    该模型为原生多模态模型,总参数量 8160 亿,Meta 称其擅长长周期任务、复杂软件工程和多步推理。Meta 与 Apple 此次合作发布并公开互相支持,Meta CEO Mark Zuckerberg 与 Apple 新任 CEO John Ternus 在 X 上互动,Meta 首席 AI 官 Alexandr Wang 对 Axios 表示两家公司已合作数月。

    关注点

    Meta 与 Apple 罕见联手,让 816B 参数开源模型能在两台 Mac Studio 上本地运行,可观察端侧大模型的部署边界。

  5. AWS Machine Learning Blog 精选AI 评分62

    Meta 的 Muse Spark Open 上线 Amazon SageMaker JumpStart

    Meta 的编码优化开源权重模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上线,可在自己的 AWS 账户中部署到 SageMaker AI 端点,无需自行管理服务基础设施。

    该模型采用 MoE 架构,总参数 816B、每 token 激活 42B,支持 1M token 上下文窗口,输入可接受文本、图像、文档、音频和音视频,输出为文本,权重按 Muse Model License(含 Muse Spark Usage Policy)发布。

    关注点

    Meta 的编码优化开源模型首次接入 SageMaker JumpStart,文中给出两种量化变体与对应实例,可据此估算部署成本。

  6. Hugging Face Blog 精选AI 评分88

    Meta 开源 Muse Spark Open:816B 多模态 MoE 模型

    Meta 发布开源权重模型 Muse Spark Open,采用混合专家架构,总参数约 816B、每 token 激活约 42B,上下文窗口最高 100 万 token,可输入文本、图像、音频和视频并输出文本。

    该模型面向智能体编码训练,能读取代码库、编写和调试代码并调用工具,同时可处理截图、语音和录屏。模型提供 BF16 与 NVFP4 两种 checkpoint,BF16 约 1.5 TB,NVFP4 面向 NVIDIA Blackwell GPU;官方给出 transformers、llama.cpp、SGLang、vLLM、MLX 的部署配方,以及用 TRL 在 64 张 H100 上微调 LoRA 的示例。

    关注点

    Meta 开源 816B 多模态 MoE 模型,给出量化、部署与微调配方,可据此评估本地与云端落地成本。

  7. Hugging Face Blog 精选AI 评分80

    Black Forest Labs 发布 FLUX.3 Image Klein,Diffusers 首日支持

    Black Forest Labs 发布 FLUX.3 Image Klein,并在 Diffusers 中首日支持。

    该模型用同一个模型完成文生图、多参考图生图和新增的布局控制,可在提示词中写入边界框指定画面各部分的摆放位置,或指定参考图中哪些部分需要移动。两个开放 checkpoint 已收录在 FLUX.3 Image Klein collection 中,蒸馏版默认 16 步、无需 CFG,基础版 50 步并支持 CFG。

    关注点

    FLUX.3 Image Klein 在 Diffusers 首日支持,读者可了解其布局控制能力与量化权重带来的显存门槛变化。