返回资讯中心
外部精选
软件工程
#开发者实时流

研究:AI生成的Lean证明代码需先检验才能判断正确性

来源标题:" and the proof is checked in Lean"

一篇分析文章指出,从Lean代码中可以提取重要信号,但若代码由AI生成,则需先进行检验。文章提到OpenAI上个月发布的定理库包含722篇数学论文,约45%附带Lean代码,其中3篇未经过Lean化的论文因符号错误已被撤稿。文章提出了四个问题,用于在做出正确性声明前评估Lean仓库。

Hacker News 最新trotro2026/11/12 · 5 天前20 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

这篇文章试图用通俗的语言解释,如何理解“本定理正确,因为已在 Lean 中检查过”这类说法。总结来说:从 Lean 代码中确实可以提取出重要信号,但如果这些代码是 AI 生成的,就需要先做一些检验。下文将说明这些检验是什么,并指出在许多情况下(例如 OpenAI 的定理转储),这些检验尚未被系统性地完成。

上个月 OpenAI 发布的定理转储包含 722 篇数学论文,其中约 45% 附带了部分 Lean 代码。此后有三篇(未 Lean 化的)论文因符号错误被撤回。有人可能会说:“附带 Lean 代码的论文肯定是正确的,因为 Lean 就是这么工作的。”也有人可能会说:“Lean 出过可靠性漏洞,很可能还有更多漏洞,而 AI 会钻空子,所以 Lean 验证根本说明不了什么。”不出所料,真相更为微妙,本文正试图解释这一点。

本文的结构是一系列四个问题:在人们能够开始做出上述形式的正确性断言之前,需要针对一个 Lean 仓库(尤其是 AI 生成的仓库)提出这些问题。在开始之前,我要强调:对于 OpenAI 定理转储中的许多论文,这些问题尚未全部得到肯定回答(但没有什么能阻止人们去回答这些问题,我也没有理由相信下面的任何检验会失败,只是人们还没有去做)。

一个 Lean 仓库通常会有一个“标题定理陈述”。这是一段计算机代码,定义了一个定理的陈述(而非证明!)。请注意陈述与证明之间的巨大差异。例如,下面是一段可以完整编译的 Lean 代码,它定义了一个数学陈述。

import Mathlib def FermatsLastTheorem : Prop := ∀ a b c n : ℕ, n ≥ 3 → a^n + b^n ≠ c^n

这段代码导入了 Lean 的数学库 Mathlib,然后定义了一个数学陈述,乍看之下像是费马大定理,但实际上是一个平凡为假的陈述,因为在 Lean 中 ℕ 包含 0,所以取 a = b = c = 0、n = 3 就给出了一个反例。这并不妨碍该陈述通过编译!但它会阻止该陈述的任何证明通过编译。Lean 严格区分定理的陈述与定理的证明;人类则非常擅长把这两种概念都称为“一个定理”。

在评判一篇附带 Lean 代码的 PDF 时,首先要问的问题是:“Lean 代码中定理的陈述是什么,它是否对应 PDF 中实际的定理陈述?”对于人类 Lean 专家来说,这通常(但并非总是)是一个容易回答的问题。例如,任何具备 Lean 能力的数学工作者都能读懂上面两行代码,并看出这是对费马大定理的错误陈述。

然而,事情并不总是这么简单。目前,由于可用库的不足,人们可能不得不阅读数千行代码,才能理解一个形式化定理的陈述。当下一个例子是 DeepMind 的 Formal Conjectures 仓库的一个 PR,其中包含 Hodge 猜想陈述的 Lean 形式化。在撰写本文时,该陈述依赖 Mathlib 之上超过 10,000 行的代码,因为 Mathlib(经过人类专家仔细检查、可以信任)尚未拥有使该陈述得以成立所需的 cycle class map 等定义。另一个例子是 Axiom 最近宣布的对有限单群分类的形式化验证证明。Axiom 系统所证明的陈述位于 Tau Ceti,一个 AI 生成的 Lean 代码库中。包含该陈述的文件导入了 Tau Ceti 中超过 25 万行 Lean 代码(超过 900 个文件)。其中约 5,600 行代码至关重要,因为它们包含所有相关定义(例如所有 sporadic simple groups 的定义,其中大部分仍不在 Mathlib 中)。没有人工检查,人们并不能真正确定这确实是分类的正确陈述(请注意,我还没有遇到任何声称仔细检查过 Tau Ceti 中 sporadic groups 定义是否正确的人)。事实上,我们目前拥有的、证明该陈述被正确形式化的最强证据,就是 Axiom 的代码证明了它!

值得指出的是,在附带 Lean 代码的 290 个 OpenAI 定理中,约有 38 个具有这样的性质:Lean 代码甚至没有陈述、更不用说证明论文的主定理。而 OpenAI 从未声称它做到了!他们只是说“这里有一些与这篇论文配套的 Lean 代码”。有时代码只是陈述并证明了一些中间结果——我的印象是,OpenAI 在某些形式化尚不完整时就决定上线,于是就把手头有的东西直接转储了。举一个具体的例子:论文 194 声称证明了交换代数中的 Lech 重数猜想,且对维数、剩余域或特征没有任何限制;这个问题自 1960 年以来一直悬而未决。相应 Lean 代码中的标题定理经检查是论文的推论 5.4——这已是令人印象深刻的成就,但并非标题结果。

一旦你确信自己理解了 Lean 代码声称要证明的定理陈述,你(或者你某位能使用高性能机器的朋友,如果代码库很大的话)就必须实际编译这些代码。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →