Google 称自我改进型 AI 仍遥不可及

AI 导读

Google DeepMind 工程师 Haydn Belfield 表示，目前没有可测量的证据显示 AI 加速了 AI 研究本身。

摘要与补充说明

AI 已编写超过 75% 的生产代码，但约 88% 的代码改动仍需人工审核，完全交给 AI 的改动占比从 7.5% 升至 11.9%。

Google 工程师 Haydn Belfield 表示，尽管大规模自动化已经到来，但可自我改进的 AI 仍然遥不可及。

据 Belfield 称，Google Deepmind 并未观察到由 AI 自身驱动的 AI 研究出现可测量的加速。但这并不意味着大规模自动化没有发生：如今 AI 编写的代码已占生产代码的 75% 以上。不过据 Belfield 介绍，约 88% 的代码变更仍需人工监督或审查，且每项变更在提交前都要经过人工审核。完全交由 AI 处理的代码变更比例从 7.5% 上升至 11.9%。

The more complex and time-consuming a task gets, the less likely AI is to handle it on its own. Across 1,389 internal Argon agent runs, the success rate without human input dropped sharply as complexity increased. Humans remain essential for creative research, novel experiment design, diagnosing subtle training instabilities, and long-term planning, Belfield said. A survey of twelve senior Deepmind researchers confirmed the pattern, with automation running highest for well-defined, verifiable tasks and lowest for open-ended scientific ideation.

在 Deepmind 包含 74 项真实机器学习工程任务的内部基准 RE-Bench 上，Argon 能解决约一半的任务。这相比 Gemini 3.7 Flash 的 27% 是大幅提升，但距离完全自动化所需的近乎完美表现仍相去甚远。

Google 自身的能力指数显示 AI 研究并未加速

为了系统性地追踪进展，团队构建了覆盖 123 个模型和 92 个基准的通用能力指数（GCI）。Gemini 模型能力以每月约 0.1 个 GCI 点的稳定速度增长，速度没有显著变化。团队将 Gemini 4 Argon 略高于趋势线归因于更多的算力和组织投入，而非 AI 驱动的加速。

通用能力指数（GCI v1）显示 Gemini 能力稳步增长，没有统计学上显著的加速。| 图片：Haydn Belfield / Google Deepmind

团队目前将 AI 驱动的研究自动化风险评为低，但正在构建测量基础设施，以追踪未来加速的迹象。

Belfield 的发现与近期研究一致，但并非该领域所有人都认同。包括 Geoffrey Hinton、Yoshua Bengio 和 OpenAI 的 Jakub Pachocki 在内的 20 多位 AI 研究者最近在一篇研究论文中警告可能出现“智能爆炸”。他们认为，AI 系统可能在未来几年内自动化所有 AI 研发工作，将通常需要数年的进展压缩到短短几个月。

没有炒作的 AI 新闻——由人类精选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。