Anthropic 的 Andrej Karpathy：外界只看到 AI 能力的“预览版”

OpenAI 联合创始人 Andrej Karpathy 描述了人们在理解 AI 能力方面正在迅速扩大的差距。公众把聊天机器人当作更好的谷歌搜索，而内部前沿系统已经在处理顶级专家需要数年才能完成的任务。

Karpathy 将大语言模型的用户群体划分为四个层级。约 60 亿人，约占全球人口的 75%，几乎完全没有接触过 LLM。另有 10 亿到 20 亿人是免费版类 ChatGPT 产品的普通用户，他们把它“有点像更好的谷歌搜索、写作辅助工具等等”。

大多数人对 AI 已经能做什么一无所知

即便是数学和代码领域之外的许多专业人士也属于这一层级。高管及类似角色的人大部分时间都在与他人交谈，因此“尽管他们在理智上明白正在发生什么，但这仍然是二手信息，而且有些抽象，”Karpathy 写道。

第三层级估计有 2000 万人，约占全球人口的 0.2%。这些是数学和代码领域前沿级 LLM 的专业用户，他们亲眼看到“过去需要数周或数月才能完成的大型复杂项目，现在只需一个提示词就能由智能体完成”。Karpathy 列举了“构建应用、复制应用、翻译应用、从二进制文件反编译应用”等例子。

他补充说，这一转变发生得很快。2024 年 10 月，Karpathy 称 AI 智能体多半是几乎不起作用的营销噱头。仅仅几个月后，他就完全不再手写代码，从“在代码编辑器中逐字符敲入背下来的计算机代码命令”转变为让智能体处理工作。随后，尽管身为 OpenAI 联合创始人，他还是加入了 Anthropic。

极少数精英看到了公众看不到的东西

据 Karpathy 估计，约有 5000 人，约占全球人口的 0.00006%，能够使用内部前沿级系统。“外部世界已经看到了预览，”他写道。这个群体所看到的“看起来像是成千上万个智能体在数周内协作推进软件巨型项目：铸造零日漏洞、以机器速度发起网络攻击和防御、发现新科学、推进数学前沿。”这些是“业内顶尖专业人士需要数年工作才能完成的事情”。

与此同时，“人类的审查和理解开始落后”。他指出，人们仍在“考古”几个月前发生的OpenAI-HF 事件，并指出数学家“可能还要花一段时间钻研那 722 篇前沿数学手稿”。

Karpathy 称这是“当下的怪异之处”。普通公众大多没有接触过这些系统，而“当他们接触时，它看起来就像一个笨拙的聊天机器人”。大多数专业人士仍然只看到“温和的提升”。而“一小撮专业人士正在体验曲线垂直上升带来的眩晕感”。这一切都在同时发生。

OpenAI CEO Sam Altman 在 9 月初的 G20 创新部长级会议上也提出了类似说法，称当前的AI 编程工具可以在“17 分钟”内完成一家初创公司此前用三个月才构建出的成果。“世界还没有跟上这将意味着什么，”Altman 说。

Karpathy 表示，LLM 的能力目前在“数字化、可验证且具有经济价值”的领域达到顶峰。这是因为这种能力“源自基于可验证奖励的强化学习”，而企业会将训练资源投向收入潜力最高的领域。目前，这意味着编程和数学。

没有炒作的 AI 新闻——由人类精选

订阅 THE DECODER，即可享受无广告阅读、每周 AI 新闻通讯、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。