Anthropic 联合创始人 Jack Clark 将自我改进 AI 预测提前至 2027 年
Anthropic co-founder Jack Clark moves his prediction for self-improving AI forward to 2027
AI 导读
Anthropic 联合创始人 Jack Clark 把递归自我改进（RSI）可能出现的时间从 2028 年提前到 2027 年，依据之一是 P-Zero Research 的新基准 TasteVal。
摘要与补充说明
TasteVal 用 8 个 AI 模型开发任务测试模型选择实验和解读结果的能力，研究目标已预先给定，不考察选题；实验由固定编码智能体在单张 Nvidia H100 上运行，每次上限 40 GPU 小时或 120 小时实际时间，人类基线来自 24 位曾在 OpenAI、Google DeepMind、Nvidia 和 Microsoft Research 工作的专家。
正文· AI 翻译
Clark 联合创立了 Anthropic，并撰写 Import AI 通讯。根据这些数字，他现在认为，递归自我改进（RSI）——即 AI 系统开发出自己的后继者——最早可能在 2027 年成为现实。他此前预计是 2028 年。
该基准并不能证明 AI 系统已经在自我改进，因为它只捕捉了科学工作中很窄的一部分。但它确实显示了这场辩论的走向：从原始模型性能转向语言模型究竟能承担多少独立研究工作这一问题。
TasteVal 只衡量了图景的一部分
P-Zero Research 将研究品味定义为三种能力：识别哪些研究问题值得追求、设计实验来回答这些问题，以及正确解读结果。TasteVal 只测试后两项。选择最有前景的研究方向通常被视为科学直觉的核心，但在 TasteVal 中，这一决定已经替模型做好了。
八个任务中的每一个都指定了一个来自 AI 模型开发的固定研究目标，以及一个可测量的分数。这些任务涵盖训练数据选择、语言模型的预训练和微调、基于人类偏好的训练，以及防御对抗性提示等领域。
模型决定下一步运行哪个实验，并利用结果来指导其下一步。为避免编码能力影响结果，一个固定的编码智能体在单块 Nvidia H100 GPU 上运行所有实验。每次运行在 40 GPU 小时的计算量或 120 小时的墙钟时间后结束。
人类基线来自 24 位专家，他们最近曾在 OpenAI、Google DeepMind、Nvidia 和 Microsoft Research 等机构工作。他们完成了相同的任务，每个任务至少有两人参与。每个任务中最好的人类尝试被用作基准。
通过计算效率衡量研究品味
为了让研究品味可量化，P-Zero Research 将其转化为计算效率。其推理是，在 AI 研究中实验计算资源稀缺，因此选择正确的实验并正确解读其结果意味着在相同预算下更少的运行次数和更多的进展。
该实验室借鉴了其“AI Futures Model”，该模型预测一旦编码实现自动化，实验计算将成为最大的瓶颈。因此，TasteVal 衡量模型需要多少计算量才能达到专家的分数。一个用一半计算量就达到该水平的模型，按此定义具有两倍的研究品味。P-Zero Research 将这一比率称为计算乘数。
排名最高的模型 Anthropic 的 Opus 5.5 达到了 2.3 的计算乘数，用不到一半的计算量就达到了专家级分数。不过，统计范围从 1.15 到 4.37。在低端，该模型将仅略微领先。单次运行的成本平均约为一次专家尝试成本的三十分之一。
在多个模型世代中，自 2025 年 12 月以来，计算乘数大约每三个月翻一番。这里的不确定性也很大，报告的翻倍时间从 1.7 到 5.0 个月不等。
过去几年，模型研究品味的提升速度要慢得多。这条曲线直到2025年底至2026年初才明显变陡。这是否是一个持久趋势，无法仅凭单一基准判定，作者本人也承认，他们的结果可能高估了“研究品味提升的速度”。这些任务可以快速、低成本地核查，而这正是AI实验室最容易针对优化的那类任务。对照组中也没有任何顶级研究人员。
Clark提前了自己的时间线
Clark长期以来一直称创造力是AI系统自我改进速度的关键因素。今年早些时候，他写道，模型尚未在任何突破性规模上展现出这种能力。他现在指出，数学突破方面的进展以及TasteVal等基准表明，这种情况正在改变。
在5月的一篇长文中，Clark曾给出更为谨慎的数字。他认为，到2028年底出现一个能独立训练出更强继任系统的系统的概率约为60%，到2027年则为30%。这一预测来自一位联合创办了其模型在该基准上排名第一的公司的人，这给预测增加了一层偏差。
批评者划定的界线恰恰在于这项能力
TasteVal之所以重要，是因为它衡量的正是怀疑者所指出的、阻碍AI取得重大突破的那项能力。AI研究员Herbie Bradley反驳了Clark 5月的文章，认为虽然模型有可能接管初级研究人员的工作，但研究品味、创造力以及连贯的长期研究规划等要求更高的技能仍不见踪影。
在规划和评估实验方面，TasteVal对上述评估构成了挑战，尽管它对选择长期研究议程只字未提。
实际差距仍然有多大，体现在复旦大学团队领导的一项关于使用AI智能体进行AI开发的研究中。研究人员分析了自己模型的开发过程，发现AI智能体贡献了多达55%的方法论提案，但人类仍然做出了超过85%的最终决定。作者指出，目前尚不清楚AI如何能在结果出来之前生成多样化的研究方向并评估其价值，而这恰恰是TasteVal从模型手中接过的决策类型。
争论正在转向
该基准出台之际，正值各大AI实验室自己引发的争论之中。6月，Anthropic写道，递归自我改进尚未实现，但“可能比大多数机构准备好的时间来得更早”。Anthropic CEO Dario Amodei现在呼吁对AI发展进行有控制的放缓，而OpenAI则承认完全自主的RSI尚未发生，并表示只有在人类监督得到保证的情况下才应追求这一目标。
TasteVal改变了什么算作进步。很长一段时间里，焦点一直是模型解决数学问题或编程挑战等定义明确的任务的能力，但现在问题越来越在于，它们能否做出推动研究向前发展的决策。
如果P-Zero Research测得的趋势在其他测试中依然成立，其影响将是双面的。AI开发会变得更快、更便宜，但与此同时，越来越大比例的研究将变得更难由人类验证，因为模型将自行规划和评估实验。