GPT-6-Astra 在 50 道物理研究题中解出 49 道,平均每题不到 3 美元
GPT-6-Astra solves 49 of 50 physics research problems at $2.40 apiece
AI 导读
一项新基准测试让商用 AI 智能体在无人类提示下解答理论物理研究问题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 解出 50 题中的 49 题(98%),平均每题成本不到 3 美元,整套基准约 116 美元。
摘要与补充说明
Anthropic 的 Opus 5.5 在 Claude Code 中得分 92%,Google Gemini 3.8 Flash 为 68%,开源权重模型 DeepSeek-V4.1-Flash 和 GLM 5.3 分别为 54% 和 42%。题目覆盖理论物理 11 个子领域,刻意避开重大开放问题,聚焦对已知方法略作改动的常规计算。
读者可看到前沿模型在理论物理论文级计算上的实测成绩、成本与失败模式,以及作者对科研训练和资源分配影响的判断。
正文· AI 翻译
团队测试了市售的 AI 智能体,且未给它们任何人工提示。在 OpenAI 的 Codex 编码环境中运行的 GPT-6-Astra 表现最佳。它在 50 道题中答对了 49 道,正确率 98%,平均每道题成本不到 3 美元,整个基准测试总成本略低于 116 美元。
该基准测试考察的是常规研究工作,而非重大难题
该题集有意排除了重大开放问题,聚焦于作者所称的“按部就班”型问题,即研究人员将已知方法应用于稍作修改的问题。出题者通常会对自已近期某篇论文中的计算改动几个数值,使新结果无法从旧结果中推测出来。据研究人员称,这类问题常被交给博士生,作为进入研究领域的第一步。
一个来自黑洞研究的例子显示了这些问题仍然颇具难度。解决它需要找到一篇较早的论文,将其方程从五维时空推广到四维时空,然后用自定义程序计算结果。协调人 Suvrat Raju 是那篇较早论文的合著者,他花了大约一天时间。作者估计,在现代智能体出现之前,只有少数专家同时具备物理学知识和这些计算方法的经验。即便是他们,也需要好几天时间。
这些问题涵盖理论物理的十一个子领域,从流体流动和生物过程到粒子物理和宇宙学。每个智能体都运行了两次测试,一次在带网络搜索的真实条件下,一次在无网络访问的隔离环境中。
在 Claude Code 中运行的 Anthropic Opus 5.5 以 92% 的成绩位居第二。Google 的 Gemini 3.8 Flash 得分为 68%,而开放权重模型 DeepSeek-V4.1-Flash 和 GLM 5.3 分别达到 54% 和 42%。较弱的模型有时会犯专家一眼就能看出的错误。在黑洞问题上,Gemini 和 GLM 在网络搜索运行中未经改动地照搬了较早论文中的公式。那些公式适用于五维,而非所需的四维。
互联网访问带来的差异小得令人意外。在没有网络搜索的情况下,Astra 和 Opus 各得 92%。许多问题依赖于研究论文中的公式,而模型通常并未获得这些论文。作者将此视为一个迹象,表明领先的语言模型实际上已经记住了理论物理文献的很大一部分。
在网络搜索条件下,Astra 解决了所有问题,只有一个问题难住了所有模型。该问题要求给出一个能产生给定曲线的方程。专家的解法依赖于特殊的数学形式,这些形式只有在更宽泛的意义上才算作所需的微分方程。作者承认这个问题可能显得“不公平”,但他们认为它是现实的,因为研究人员常常不得不从不精确的数据中推断底层物理。
若干 AI 的失误其实是答案键本身的缺陷
对于若干问题,与专家的后续核对揭示了其参考解法中微小且难以察觉的错误。修正这些错误后,Astra 的答案每次都是正确的。
这种模式或许也能解释一个表面上的矛盾。这些智能体在 TheoPhysEval 上的表现优于其他一些物理基准测试,例如 CritPt,尽管作者认为他们自己的题目平均而言更难。一项近期研究发现,一些理论物理基准测试的评分有误,在某些情况下严重低估了模型的能力。
任何想核验结果的人都可以在 Hugging Face 上以数据集的形式下载这些题目和测试设置。
为什么强大的计算能力尚未带来物理学突破
作者写道,当前一些最强的模型可能已经在具体计算上超越了最优秀的人类研究者,即使在专业领域也是如此。他们称这是一个重大里程碑。
他们指出,这种影响在数学领域更为明显,AI 智能体在那里已经解决了重要的开放问题。据 OpenAI 称,其中包括关于描述流体流动方程的 Navier-Stokes 问题,这是著名的千禧年大奖难题之一。理论物理领域尚未出现可比的突破。
作者解释说,具有可验证结果的具体计算只出现在研究过程的末端。在此之前,必须有人构建理论并提出“正确”的问题。当一个问题被证明太难时,优秀的研究者会转向一个更简单但同样有趣的相关问题。当前的智能体并不擅长这一点。
物理学家们还共享一种关于什么问题有趣的共同感觉,尽管远非一致。智能体似乎还不具备这种“品味”。当被要求设计新问题时,它们会迷失在人类会觉得无聊的细节中。
研究人员强调,这些观察无法量化,也不是对 AI 发展方向的预测。他们认为 AI 智能体可能在不久的将来独立开展顶级研究,但这需要的不仅仅是解决问题的能力。
AI 已经在改变物理学家的培养方式以及谁能够参与竞争
作者已经看到了对培养的影响。直到最近,一些基准题目本可以很好地作为早期职业研究者的首个研究项目。这已不再合适,除非目标明确只是把材料做一遍。
他们还指出了一个结构性问题:从历史上看,理论物理所需的资金远少于实验研究,这使该领域的机会相对平等。有能力的 AI 智能体可能会改变这一点。基准题目目前解决起来仍然便宜,Astra 的完整运行成本约为 116 美元。然而,对于更难的题目,作者预计资源需求将急剧上升。到那时,研究小组的预算可能对其能取得的成果有更大的决定权,即使在理论物理领域也是如此。作者表示,这引发了关于该领域机会获取和公平的问题。
数学领域已经在进行这些讨论,例如围绕莱顿宣言。作者认为理论物理领域也应该在 AI 颠覆该领域之前展开这些讨论。迄今为止,物理学界至少有一个流派敦促研究者“闭嘴,去计算”。如果品味和远见开始变得更加重要,物理学家或许需要转而“停下来思考”。