前 DeepMind 研究员 Thore Graepel 要用 AlphaGo 思路治 AI 幻觉，创办 Metis Reasoning
Former Deepmind researcher thinks AlphaGo's playbook can cure AI hallucinations
AI 导读
前 DeepMind 研究员 Thore Graepel 创办 Metis Reasoning，主张用 AlphaGo 的搜索思路解决大模型幻觉问题，并在 Nvidia GTC 柏林站介绍了这一方案。
摘要与补充说明
其白皮书提出用显式“知识账本”替代固化在模型权重中的知识，记录已知内容、置信度和未解问题，由独立模块用计算、形式化证明或实证证据核验新条目，假设失效时重新评估依赖它的结论。系统像 AlphaGo 一样用两个神经网络提出和评估“走法”，但无法覆盖验证规则，最终给出答案或有理由的弃答。Metis 称该方案可减少幻觉、提供带来源引用的解释，并支持不重新训练就修改或删除知识，也利于在边缘设备和机器人上运行小模型。
正文· AI 翻译
前Deepmind研究员Thore Graepel希望构建能够追踪自身所知、并对每一个结论进行证据核验的AI系统。他的团队表示，更大的语言模型无法解决这一问题。
Thore Graepel认为，2016年让AlphaGo击败围棋职业棋手李世石的那套思路，同样可以让AI系统变得更加可靠，包括在机器人领域。这位前Deepmind研究员创立了Metis Reasoning，并在柏林举行的Nvidia GTC大会上阐述了这一方法。会上，这家芯片制造商一直在扩展其面向机器人和物理AI的平台，目标是将机器人技术的数据问题转化为算力问题。
用知识账本取代固化在模型权重中的知识
据Metis称，如今的语言模型只相当于AlphaGo的预测网络，负责给出可能的落子建议。AlphaGo将这一网络与对棋局的系统性搜索相结合，发现了著名的第37手——这一手棋，预测网络认为人类棋手落子的概率大约只有万分之一。Metis希望将这类搜索引入通用推理。
要做到这一点，需要该公司论文中所称的显式知识账本，其作用相当于棋盘。类似的想法已经存在：微软的GraphRAG在模型权重之外以知识图谱的形式组织知识，谷歌的AlphaGeometry2则将语言模型与一个可验证数学证明的符号引擎配对。Metis希望将这些原则扩展到现实世界中的开放性问题。
其知识账本记录已知内容、系统的置信程度，以及哪些问题仍未解决。一个独立模块会依据计算、形式化证明或经验证据来核验新增条目；当某个假设不再成立时，所有依赖该假设的结论都会被重新评估。一次“落子”可以是一个问题、一项实验，或对现有假设的质疑；系统会选择最能降低原始问题不确定性的那一个，最终给出答案，或给出有充分理由的弃答。
与AlphaGo一样，两个神经网络分别负责提出和建议、评估落子，它们基于以往调查的记录进行训练，但无权推翻核验规则。Metis表示，这一架构应当能减少幻觉、给出附有来源引用的解释，并让知识无需重新训练即可修改或删除。由于推理被拆分为小步骤，这种方法也可能更适合在边缘设备和机器人上运行的小型模型。
企业仍不放心将语言模型投入实际部署
Metis 认为，更多数据和算力能改进语言模型，但无法解决这项技术的根本问题：模型会编造答案，其推理链无法验证，知识被锁在权重之中。幻觉来自训练过程本身，论文指出，因为模型学到的是生成看似合理的文本而非真实的文本，甚至当今推理模型中的思维链也常常无法展示答案究竟是如何得出的。
论文称，这正是AI 迄今经济影响如此之小的原因。当智能体代表公司行事时，错误很难追溯到源头，错误的知识也无法从模型中移除。AI 在软件工程领域腾飞，是因为代码易于测试和回滚，但论文认为，在医学、金融、芯片设计和机器人领域，AI 需要从根本上具备可验证性。
这份白皮书描述的只是一个研究计划，没有可运行的系统，没有基准测试，也没有与当前推理模型的比较。团队承认，现实世界不同于围棋，只提供部分信息，获取证据可能代价高昂，而且有些问题根本没有答案。最大的未解问题是，鉴于符号 AI 系统曾经恰恰因为所有知识都必须手工输入而失败，在教科书示例之外的杂乱领域中，经过验证的知识账本将如何成形。
继 Silver 和 Rocktäschel 之后，又一位 Deepmind 老将单飞创业
根据其网站，Graepel 于 2001 年在柏林获得机器学习博士学位。在微软研究院，他参与构建了 TrueSkill，这是 Xbox Live 背后的匹配系统。随后他转投 Deepmind，参与了 AlphaGo、AlphaZero 和 MuZero 的工作。在 Altos Labs 任职一段时间后，他最近在 Google Deepmind 的后 AGI 团队工作，并于今年夏天离开。他还担任伦敦大学学院的机器学习教席。据彭博社报道，Graepel 正在为 Metis 筹集数千万美元的低额融资，并已在筹备以更高估值进行的数亿美元后续融资。
他是Deepmind最著名突破的最新缔造者，如今要在Google之外另起炉灶。前同事David Silver 创立了Ineffable Intelligence，并完成了欧洲初创公司中规模最大的一笔种子轮融资。Tim Rocktäschel联合创立了Recursive，该公司目前估值达46.5亿美元。其他人则直接投奔竞争对手。据《金融时报》报道，Deepmind解散了AlphaFold背后的团队，诺贝尔奖得主John Jumper与两位同事一同离职加入Anthropic。CNBC将人才流失部分归因于内部对Google TPU芯片的访问受限以及官僚作风，而Deepmind自身也正在失去独立性，创始人Demis Hassabis已从日常运营中退居二线。
没有炒作的AI新闻——由人工精选
订阅THE DECODER，即可享受无广告阅读、每周AI新闻简报、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。