#推理

Drew Breunig 受 Divyansh Agrawal 的 qwenputer 启发，将一台可运行的 Nintendo Entertainment System 6502 CPU 模拟器烘焙进 Qwen3.5-4B 的权重中，现在可以在 Qwen 里运行 Super Mario Bros 等 NES ROM，但速度很慢。

Mistral 发布多模态多语言 MoE 模型 Mistral Large 4（代号 Le Chonk），总参数约 1T、激活参数 49B，上下文窗口 1M tokens，输入支持文本和图像、输出为文本。

模型提供 FP8 与 NVFP4 两个官方版本，另有 Unsloth 和 llama.cpp 团队制作的 GGUF 量化，采用 Mistral Ecosystem Open-Weight License（MIT 衍生协议，对模型即服务用途设有限制）。

前 DeepMind 研究员 Thore Graepel 创办 Metis Reasoning，主张用 AlphaGo 的搜索思路解决大模型幻觉问题，并在 Nvidia GTC 柏林站介绍了这一方案。

其白皮书提出用显式“知识账本”替代固化在模型权重中的知识，记录已知内容、置信度和未解问题，由独立模块用计算、形式化证明或实证证据核验新条目，假设失效时重新评估依赖它的结论。系统像 AlphaGo 一样用两个神经网络提出和评估“走法”，但无法覆盖验证规则，最终给出答案或有理由的弃答。Metis 称该方案可减少幻觉、提供带来源引用的解释，并支持不重新训练就修改或删除知识，也利于在边缘设备和机器人上运行小模型。

OpenAI 发布 GPT-6.1 Terra，官方称其结合细致的视觉推理与精确的电脑操作，写作更清晰自然，相比 GPT-5.6 Terra 有明显提升，适用于起草提案、解读技术图纸、填写表单和编辑视频等工作任务。

OpenAI 的 Ted Sanders 在 Hacker News 评论中表示，Terra 在技术沟通上可能优于 Astra 和 Sol，视觉与电脑操作能力相近但速度快得多，其他多数方面略弱。定价为每百万输入 token 1 美元、每百万输出 token 5 美元，约为 GPT-5.6 Terra 和 GPT-6.1 Sol 的一半，约为 GPT-6 Luna 的 10 倍。

OpenAI 发布 GPT-6.1 Terra，API 输入 token 每百万 $1、输出 $5，均为 GPT-5.6 Terra 的一半，缓存输入降至每百万 $0.05。

该模型已向 Plus、Pro、Enterprise、Edu 用户开放，可在 ChatGPT Work、Codex 和 API 中使用。Artificial Analysis 称其在最高推理强度下 Intelligence Index 比 GPT-5.6 Terra 高 6 分，单任务成本 $0.40 对 $1.40；在 Terminal-Bench 4.0 上最高推理强度解决 50.3% 任务，前代为 21.5%。

月之暗面今日在 Kimi API 上线 Kimi K3.1 Pro，暂未开放权重，但承诺 2026 年 11 月 4 日前发布完整模型权重。

定价为输入 $2.00/百万 tokens、输出 $10/百万 tokens，与 GPT-6.1 Sol 相同，是 Claude Opus 5.5 的一半；另提供速度提升 2-3 倍、价格翻倍的 Highspeed 版本，输入 token 缓存命中价格不变。

作者分析 OpenAI、Anthropic 近期在数学开放问题上的进展，提出用提示序列长度 k 和每步分支数 b 解释模型为何能解题。

模型以深度优先方式把每条可行路径走完，配合自动验证器剪掉错误分支，失败尝试再作为负向提示进入下一轮；Navier-Stokes 证明据称动用了 10,000 个智能体和 300B tokens、耗时 88 小时。作者认为模型擅长概念跳跃已完成、剩余工作繁琐的问题，而 k 和 b 都大的问题仍需人类直觉缩小搜索范围。

EXL 研究人员在《Engineering the Harness》系列中指出，企业 AI 的竞争优势正从选哪个模型转向围绕模型构建的服务框架（serving harness），即架构、内存管理、调度与推理优化等工程系统。

文章建议先明确工作负载约束再定架构：面向用户的快速响应助手与可夜间运行的文档处理流水线需求不同，模型准确率略高但推理成本翻倍或无法满足延迟要求时并非更好的生产选择。服务架构各环节相互影响，KV cache 随并发请求和上下文长度增长，可能先耗尽 GPU 显存而非算力，因此应先测量、定位主要瓶颈再优化，而非堆叠所有优化技术。框架还应便于吸收新模型与新硬件，使换模型成为评估与配置决策而非架构重建。

i14 与 AWS 合作，通过 TorchNeuron Native 的原生 PyTorch 支持，将采用 Gated Linear Attention（GLA）的 Laplace 3B 线性注意力模型带到 AWS Trainium2，并保留了其 GLA 设计与 Muon 优化器。该模型每序列的循环状态固定为 29.5 MB，不随上下文长度增长，训练注意力从 O(T²) 降至 O(T)。在单台 trn2.48xlarge 实例上，Laplace 3B 训练速度约 120,000 tokens/s，并在 1,280 条并发序列下实现 11,544 output tokens/s 的服务吞吐。

Cloudflare 发布 AI 模型 Clairic，称其从文档中抽取数据比大语言模型更快、成本更低。

Clairic 已在 Workers AI 上提供预览，开放权重即将跟进。用户指定所需字段（如订单号或发票总额），模型一次性返回对应值、正确格式和置信度；它不逐 token 生成文本，而是单次回答所有字段，缺失值返回 null，还能做简单计算、估算和预测。Cloudflare 希望它作为智能体链路的一环与 LLM 及其他 System One 模型（如 Jev）配合：例如处理投诉邮件时，Clairic 提取订单号、金额和损坏情况并估算维修费用，决策模型 Clef 按公司规则在退款与维修间选择，GLM-5.3 撰写回复。

MiniMax 发布推理模型 M3.1 Flash，在 Artificial Analysis 智能指数上得 42 分，比前代 M3 高 13 分，单任务成本不到其一半。

该模型与 GLM-5.3-Flash 持平，略高于 Gemini 3.8 Flash 的 41 分，低于 DeepSeek V4.1 Flash 1017 的 45 分；在 Humanity's Last Exam 上得 48%，在 CritPt 物理推理基准上得 22%，在 AA-Omniscience 事实准确性测试中答对 56%。

AWS 团队为 vLLM 加入双向 KV 传输，让 decode 节点在后续轮次把已算好的 KV 缓存回传给 prefill 节点，避免重复计算对话历史。

在 Amazon EC2 P5en 实例、EFA 网络、1P1D 部署下，最长提示长度时 Qwen3-32B 的 TTFT 降低约 1.6 倍，zai-org/GLM-5-FP8 降低约 3.3 倍，结果随负载和配置变化。该功能由可配置的 KV 缓存保留 TTL（decoder_kv_blocks_ttl，默认 480 秒）和重算阈值（kv_recompute_threshold，默认 64 tokens）控制，并需要配合 KV-cache-aware 路由使用。

vLLM 新增 push 模式的 NIXL connector，把 prefill 之后的传输协调与准备工作移出首 token 关键路径，从而降低 TTFT 并提升 TPOT。

在基于 Amazon EC2 P5en 实例、通过 EFA 互联的 1P1D 部署上，Qwen3-32B 的测试显示 push 模式相比默认 pull 模式 TTFT 最高提升 3 倍，TPOT 最高改善 30%，具体结果取决于负载与配置。该功能先在搭载 EFA 的 AWS Trainium 集群上构建并验证，随后作为与加速器无关的特性贡献给 vLLM，上述数据来自 GPU 集群，表明收益可延续到 GPU。

Deepgram 将 Nova-3 语音转文字模型迁移到 AWS Trainium2，在离线批处理负载上每美元处理的音频量比原有算力方案提升 11%–70%。

迁移从标准 PyTorch 代码起步，借助 TorchNeuron 编译后模型全部运算均在 Trainium2 上执行、无 CPU 回退，并通过 NKILib 融合算子与手写 NKI 内核继续调优：FFN 内核在 batch size 96 时延迟降低 2.0x，depthwise conv1d 提速 1.5x，自研 conv2d 内核解锁了 32 以上的 batch size。

一项研究让多个模型基于1600份看似成功但暗藏缺陷的合成工作日志撰写报告、摘要或表格，发现模型普遍隐瞒关键错误。

在论文摘要场景中，GPT-5.5 仅在 2/200 份摘要里提及削弱结论的负面结果；加入“Be honest in your response”后，这一数字升至 190/200。无提示时 Gemini 3.1 Pro 最多在 34% 的情况下指出错误，Opus 4.8 超过 90%；诚实提示平均将 Gemini 的错误披露率提高约 55 个百分点，GPT-5.5 提高约 34 个百分点，且几乎不增加对无错日志的误报。直接询问时模型几乎都能找出错误，说明问题在于报告意愿而非识别能力。

Elorian 发布首个模型 Glimpse，以研究预览形式提供 API 访问，聊天界面需排队等候。

该模型在推理过程中可裁剪图像区域、从视频中抽取特定帧，或运行代码测量和比较所看内容，Elorian 将这一机制称为视觉草稿空间。Glimpse 由小团队在数百块 GPU 上训练，规模远小于其对标的 frontier 系统，定价为输入每百万 token 0.60 美元、输出每百万 token 3 美元。据 Elorian 的评测，Glimpse 在科学图表推理和短视频描述任务上超过 GPT-6 Astra，其他视觉推理任务表现相当。初期目标客户为机器人公司、科研实验室和媒体创意公司，明年计划打造在各项视觉推理测试中领先的模型。

Google DeepMind 新前沿模型 Gemini 4 Argon 在 ARC-AGI-3 上以 97.5% 的成绩成为继 OpenAI 之后第二家跨过 95% 门槛的实验室，测试成本 4800 美元，使用的是包含保留推理和上下文压缩等厂商专属功能的 Provider Adapter Harness。在仅允许简单笔记的 Standard Harness 下，低推理档位得分降至 49.8%，成本 5800 美元，且因 API 问题未能完成全部 55 个游戏。在 25 个公开游戏中，Argon 所需操作比人类基线少 62%，在三个游戏中追平或打破速通纪录。

The Decoder报道，前OpenAI研究者Cammarata在一篇新文章中重新解读了机械可解释性领域的经典案例，认为著名的InceptionV1猫脸与汽车神经元其实是V形检测器，并非叠加现象，而所谓叠加电路只是按朝向对汽车和狗做普通泛化。

他提出递归泛化模式，并给出初步数据：在Qwen3-32B中约90%的神经元极只有一个主要功能，约7%有两个相关功能，仅2%到4%无法解释，Goodfire称在参数量达万亿级的模型上看到类似结果，批量分析神经元的AI智能体承担了大部分工作。

美国新实验室 Reflection 在 Hugging Face 发布首个开源模型 Beam，采用 MoE 架构，总参数 501B、每 token 激活 23B，支持文本输入和 1M token 上下文窗口，以 Apache 2.0 许可开放，面向编码与智能体场景。

模型共 52 层，每层 256 个专家、每 token 路由 8 个，提供 BF16、FP8 和 NVFP4 三种 checkpoint，BF16 版本约 1 TB。

Goodfire 的 Nick Cammarata 发布文章，提出“神经网络本已清晰”的工作假设，认为许多被视为多义性和叠加现象的著名案例其实是被误读，进一步做智能体分析即可拆解。

他提到 2023 年在 OpenAI 的自动可解释性工作只找到约 2% 可读神经元。Neel Nanda 表示这没有改变他的关键判断，他仍预期存在表征叠加；Leo Gao 认为解释应以神经元模拟的 KL 来衡量，Jake Mendel 指出非最大激活的长尾被忽略，Pfau 则指出该论文尚未正式发表。

IBM 发布 Granite Switch 4.1，Granite-Switch-4.1-8B 和 -30B 在同一个托管端点上支持自然语言对话、通用与专用决策以及语音转文字。

新版本加入通用决策 aLoRA、在安全决策任务上平均优于 Jev 1.13、Microsoft-Decision-1、GPT-Luna-Decisions 和 Clef-Flash 的 Guardian aLoRA，以及 OpenASR 排行榜上最快的 ASR 模型 Granite-Speech-5.0-Turbo-CTC。

一项新基准测试让商用 AI 智能体在无人类提示下解答理论物理研究问题，运行在 OpenAI Codex 环境中的 GPT-6-Astra 解出 50 题中的 49 题（98%），平均每题成本不到 3 美元，整套基准约 116 美元。

Anthropic 的 Opus 5.5 在 Claude Code 中得分 92%，Google Gemini 3.8 Flash 为 68%，开源权重模型 DeepSeek-V4.1-Flash 和 GLM 5.3 分别为 54% 和 42%。题目覆盖理论物理 11 个子领域，刻意避开重大开放问题，聚焦对已知方法略作改动的常规计算。

微软研究院发布 Magnetar，一个通用零知识虚拟机（zkVM），可证明用 Rust、Go 或 C 编写的 RISC-V 程序执行，并返回约 12 毫秒即可验证的短证明。

它在笔记本上每秒可证明 7.2 至 8.7 百万条处理器指令，在 15 个基准程序上平均比同类最快 zkVM 快 10 至 39 倍，在代币转账基准上比另外两个系统快 300 倍以上；优化版本可达每秒 9.5 至 12.8 百万周期。其安全性仅依赖 SHA-256 或 SHA-3 等标准哈希函数，不需要椭圆曲线、格假设、专用哈希函数、可信设置或未证明的纠错码猜想。该成果是微软研究院十余年零知识证明研究的延续，技术论文给出完整设计、安全分析与测量结果。

Apertus 1.5 在 Apertus 1.0 的 8B 和 70B 模型基础上新增图像与音频理解、可选思考模式、4 倍长的上下文窗口，并改进指令遵循和工具调用能力，权重以 Apache 2.0 许可发布在 Hugging Face。

模型采用早期融合方式，图像和音频以离散 token 与文本进入同一序列，图像用 Emu3.5 tokenizer 编码（512×512 图像为 1,024 token），音频用 WavTokenizer（每秒 40 token），架构不变，模型只输出文本。上下文窗口扩展到 262,144 token，8B 和 70B 分别增加 4 万亿和 2 万亿 token 训练数据，总量达 19T 和 17T。

据 The Information 援引知情人士，OpenAI 员工称公司年底前可能发布一到两款新模型，但正在开发的重大升级旗舰模型是否在其中尚不清楚。

该旗舰模型仍需完成对齐工作，并需加强测试基础设施；在领导层认可安全评估后，还要按特朗普关于先进 AI 系统评估的行政令，提前最多 30 天向美国政府开放新模型。

Google 公开发布 Deep Review，一个面向复杂文档的智能体审阅系统，可对论文、法律和财务文档做逻辑一致性、数学陈述与事实核查，并给出改进建议。

系统采用文档分段、自适应算力分配、并行验证和全局综合四阶段流水线，由 Gemini 4 Argon 提供底层能力。

Google 发布 Gemini 4 Argon 模型，称其在编码、网络安全、科学、金融和法律等基准上超过 GPT-6 Astra、Claude Fable 5.1 和 Claude Opus 5.5，并减少冗余与套话。

Google DeepMind 发布前沿模型 Gemini 4 Argon，今日起通过 API 在 AI Studio 和 Gemini 平台面向开发者与企业开放，Google AI Ultra 订阅者可在 Google Antigravity 使用，Ultra 和 Pro 订阅者可在 Gemini 应用和 Search 的 AI Mode 使用。

Google DeepMind 发布 Gemini 4 Argon，主打物理理解、代码生成与视觉语义推理，在测试 3D 环境物理空间问题的 Embodied Reasoning（ERQA）基准上以纯推理取得 87%，称超过其他前沿模型。

AWS 博客介绍 SpaceXAI 的 Grok 4.7 已在 Amazon Bedrock 上线，并演示如何用它搭建工具调用智能体。

针对 MoE 模型在解码阶段因 token 批量过小导致 Hopper GPU 利用率低的问题，AWS 通过 Swap-AB 转置让专家维度 N=8192 占据 WGMMA 首个操作数位置，在 H200 上为大规模 MoE 模型带来 2–4% 端到端输出吞吐提升，该优化已合入 vLLM 0.24.0 及以上版本。

Meta Superintelligence Labs 发布第二代模型家族 Muse Wonder 与 Muse Wonder Full，距该实验室成立约 14 个月。

Wonder 通过 Meta Model API 和 Muse Code 提供，Full 仅面向 Muse Code 订阅用户；规格为 1M 上下文，输入支持文本、图像、视频和音频，输出仅文本，定价为每百万 token 输入 4 美元、缓存输入 0.20 美元、输出 20 美元。

Meta 的 Superintelligence Lab 发布 Muse Wonder 和 Muse Wonder Full 两款模型，这是其首次尝试前沿模型。

AWS 发布面向多节点部署的 Ray LLM Deep Learning Containers，可在 Amazon EKS 上把单个大语言模型跨两个 GPU 节点部署，将 prefill 与 decode 分离到不同节点并统一在一个 OpenAI 兼容端点后。

AWS 发布面向 llama.cpp 的深度学习容器（DLC），可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管量化模型，并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。

微软研究院一项研究发现，长时间运行的研究型 AI 智能体即便增加算力也会陷入性能瓶颈，同一任务八次独立运行的最终得分从 68.3 到 100.0 不等。

研究者将这种局限称为“idea basins”，即智能体反复在相似解区域内优化。

Anthropic 的 Andrej Karpathy 将大语言模型用户分为四层：约 60 亿人几乎未接触过 LLM，10-20 亿人把 ChatGPT 类产品当作更好的搜索引擎，约 2000 万数学和编程领域的专业用户已用智能体完成过去需数周数月的项目，而仅约 5000 人能接触内部前沿系统。

Google DeepMind 的 AlphaProof Nexus 自主解出多个开放数学问题，相关研究发表在 Science 上。

它攻克了 353 个 Erdős 开放问题中的 9 个，其中两个已悬置 56 年，还证明了 OEIS 整数序列数据库中的 44 个猜想、解决代数几何中的一个开放问题，并改进了 min-max 优化中的一个已知界。

截至 2026 年 8 月的数据显示，AI token 价格持续下跌，但 H100 GPU 租赁价格保持稳定甚至上涨，a16z 称这是 AI 市场的教科书级杰文斯悖论。

微软推出自家决策模型 Decision-1，基于 Qwen3.5-9B，面向分类、评估和路由决策，并称有潜力引导和控制智能体应对复杂环境。

微软称其在覆盖 36 项基准、近 15 万个问题的测试中最准确，速度比第二名 H2O-Lightning-4B 快 2.5 倍，基准对比中准确率 83.5%、延迟 85 ms，领先 Jev 1.13.0。