Anthropic 用 Claude 为现有代码自动生成形式化证明
Anthropic 的 Frontier Red Team 与 Theorem 合作,让 Claude 对 Google OSS-Fuzz 项目中 123 个开源库的测试程序做形式化验证,几周内生成约 1.8 亿行数学证明代码,由 Rocq 独立校验,据称几乎不需要人工复核。
过程中 Claude 发现数百个缺陷并自行修复,其中一些只在超大输入文件或特定访问顺序下出现;验证一款常用 PDF 阅读器时,一周内发现的安全缺陷数量相当于该软件通常一整年的报告量,另有一个逻辑错误十余年未被发现。
材料交代了 Claude 自动生成形式化证明的规模、发现的真实缺陷,以及处理器架构、单线程、64 MB 输入等适用边界。