跳到正文
The Decoder· Matthias Bastian·· 17 天前AI 评分74

Google Gemini 4 Argon 在 ARC-AGI-3 得分 97.5%,但测试方法影响巨大

Google's Gemini 4 Argon is closer to the AI frontier than any Google model in months

AI 导读

Google DeepMind 新前沿模型 Gemini 4 Argon 在 ARC-AGI-3 上以 97.5% 的成绩成为继 OpenAI 之后第二家跨过 95% 门槛的实验室,测试成本 4800 美元,使用的是包含保留推理和上下文压缩等厂商专属功能的 Provider Adapter Harness。

摘要与补充说明

在仅允许简单笔记的 Standard Harness 下,低推理档位得分降至 49.8%,成本 5800 美元,且因 API 问题未能完成全部 55 个游戏。在 25 个公开游戏中,Argon 所需操作比人类基线少 62%,在三个游戏中追平或打破速通纪录。

正文· AI 翻译

译文尚不完整,完整内容请切换到原文。

Google Deepmind 是第二家通过 ARC-AGI-3 基准测试 95% 成绩的主要 AI 实验室。但据 Epoch AI 称,结果在很大程度上取决于测试方法,而且 Argon 在数学和软件工程方面落后于竞争对手。

Google Deepmind 的新前沿模型 Gemini 4 Argon 在 ARC-AGI-3 上得分 97.5%,成本为 4,800 美元,使用的是“Provider Adapter Harness”,这是一种利用供应商特定功能的测试设置,例如保留推理和上下文压缩。据 ARC Prize 称,Google 现在是继 OpenAI 之后第二家在被广泛认为是最难的通用问题解决基准上突破 95% 大关的 AI 实验室。只有 GPT-6 Astra 得分更高,为 99.9%。

Punktdiagramm zur Anzahl der benötigten Aktionen in 25 öffentlichen Spielen von ARC-AGI-3 im Vergleich zwischen menschlicher Baseline, GPT-6 Astra, Gemini 4 Argon und dem Speedrun-Rekord.
在 ARC-AGI-3 的 25 个公开游戏中,Gemini 4 Argon(黄色)和 GPT-6 Astra(蓝色)所需的动作都比人类基线(紫色)少 62%,并且经常接近速通纪录(红色)。| 图片:ARC Prize

与 Astra 一样,Argon 在 25 个公开游戏中所需的动作比人类基线少 62%。它在三个游戏中追平或打破了速通纪录,并在另外六个游戏中达到了最佳时间的 10% 以内。在基准测试的旧版本上,Argon 在 ARC-AGI-2 上得分 91.3%(每任务 0.32 美元),在 ARC-AGI-1 上得分 98.5%(每任务 0.16 美元),基于每百万输入 token 2 美元和每百万输出 token 10 美元的 introductory 价格。

Zeitverlauf-Diagramm des Epoch Capabilities Index (ECI) von Januar 2025 bis Januar 2027, das Gemini 4 Argon bei 165 Punkten knapp unterhalb der führenden Frontier-Modelle einordnet.
在 ARC-AGI-3 的 25 个公开游戏中,Gemini 4 Argon(黄色)和 GPT-6 Astra(蓝色)所需的动作都比人类基线(紫色)少 62%,并且经常接近速通纪录(红色)。| 图片:ARC Prize

基准测试结果在很大程度上取决于测试设置

在“Standard Harness”中,只允许在回合之间进行简单笔记,Argon 在低推理下得分降至 49.8%,成本为 5,800 美元。这一差距可追溯到 2026 年 7 月的一场争议,当时 OpenAI 的 GPT-5.6 Sol 使用两个 API 设置在 ARC-AGI-3 上击败了 Claude Opus 5。

GPT-5.6 Sol 在标准环境中仅获得 7.8% 的成绩,该环境在每次操作后丢弃内部推理,并使用缺少较新 Claude API 功能的旧接口。这意味着 Claude 是在与 GPT-5.6 不同的条件下接受测试的。当使用 OpenAI 自己的 Responses API 进行测试时,包括“Retained Reasoning”和智能上下文“Compaction”,该模型跃升至 38.3%,击败了 Opus 5 的 30.2%。OpenAI 认为基准测试也总是衡量技术环境。ARC Prize 联合创始人 Francois Chollet 随后允许使用通用的、公开可用的 API 设置。

API problems also prevented Argon from completing all 55 games in the Standard Harness, according to the testers. At low reasoning, the system finished 42 games (49.8 percent), at medium 46 games (46.3 percent). At the highest level, it only completed 19 games, so ARC Prize did not publish a score. The reported results still cover all 55 games by including partial points from aborted runs.

Argon 缩小了差距,但在数学和编码方面落后

研究机构 Epoch AI 也追踪了 Google 的进展。Argon 在 Epoch Capabilities Index(ECI)上得分 165 分,与 Fable 5.1 并列,仅次于 Opus 5.5(167)和 GPT-6 Astra(166)。ECI 将 50 多个基准测试整合为一个单一的能力量表,类似于 Artificial Analysis 构建其主要分数的方式。

Diagramm des ARC-AGI-3-Leaderboards, das die Punktzahl in Prozent im Verhältnis zu den Kosten in US-Dollar für Gemini 4 Argon und Konkurrenzmodelle wie GPT-6 Astra zeigt.
凭借 165 分的 ECI 得分,Google 与当前由 GPT-6 Astra(166 分)和 Opus 5.5(167 分)引领的 AI 前沿之间的差距,是自 2026 年 2 月 Gemini 3.1 Pro 以来最小的一次。 | 图片:Epoch AI

Argon 明显领先于 Gemini 3.8 Flash(157 分),并使 Google 与榜首的距离比自 2 月 Gemini 3.1 Pro 以来的任何时候都更近。Artificial Analysis 和 Vals.ai 此前已证实了这一趋势。

不过,性能因领域而异。根据 Epoch AI 的数据,Argon 在多项知识、智能体和视觉基准测试中领先,但早期估计显示,它在数学 ECI 上排名第八,在软件工程指数(SWE ECI)上排名第六。

没有炒作的 AI 新闻——由人工精选

订阅 THE DECODER,即可享受无广告阅读、每周 AI 新闻简报、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。

相关阅读

专题与标签

相关资讯专题

相关评测

Gemini 4 Argon · 模型榜