
AI公司推出形式化验证工具,用数学证明对抗低质量AI代码
来源标题:The War Against Slop and an Emerging Weapon to Fight it: Formal Verification
随着AI生成代码大量增加,Harmonic、Theorem、Axiom Math及新公司&Truth等企业开始提供形式化验证系统,用数学证明和逻辑检验软件或硬件的正确性。&Truth联合创始人Clark Barrett同时是斯坦福教授、cvc5求解器共同创建者。这类工具过去需要专家手工操作,如今借助AI和Lean实现流程自动化。
以下正文由 AI 翻译自 Latent Space(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
2026年,AI 行业最热门的词汇是“slop”——意指大语言模型产出的低质量内容。如今大量代码由 AI 生成,如何避免 slop 已成为软件工程师日常关注的问题。怎么做?一种方法是使用形式化验证系统,它借助数学证明和逻辑来验证软件或硬件的正确性。
随着 AI 在解决数学问题上的能力日益增强,如今已有多家 AI 公司提供形式化验证系统,包括 Harmonic、Theorem、Axiom Math,以及新入局的 &Truth(读作“and truth”)。本文将介绍这些公司采用的一些方法。
形式化验证在当今软件与 AI 中的应用
为了更好地了解形式化验证系统的格局,我们采访了该领域的主要倡导者之一:&Truth 联合创始人兼联合 CEO Clark Barrett。他同时是斯坦福大学计算机科学 Corbel 讲席教授(研究型),也是形式化验证中广泛使用的流行自动推理引擎 cvc5 的联合创作者。
简单来说,cvc5 是用于可满足性模理论(SMT)的“求解器”,Barrett 表示 Amazon 等公司广泛使用它。例如,cvc5 被用于 Amazon 的智能体开发环境 Kiro 中的规范分析和测试生成。
“看到我的工具从实验室里的一个好想法,变成如今在 Amazon 的生产流水线中每天被调用数十亿次,这很有趣,”Barrett 告诉我们。
来源:Clark Barrett 等人合著的一篇关于 cvc5 的 2022 年论文。
当 AI 编程智能体公司谈论“验证”自己的工作时,通常指的是智能体运行测试、自我批判输出,或让另一个 AI 模型来评判。于是我问 Barrett,这与真正的验证相差多远?
“主要区别其实就在于,你怎么知道什么时候算完成,”他回答说。“如果你在做测试、打补丁、扫描——使用所有这些现有工具——它们相当不错。我的意思是,它们能发现大量问题,会把这些议题提出来。但你永远不能完全确定,我是不是把所有问题都找到了,还是说还有一个潜藏着、我的工具发现不了?”
&Atlas 是 &Truth 的第一款工具;它是“一张全球开源代码的地图,首先从用 C 编程语言编写的代码开始”。
Lean 在形式化验证中的角色
&Truth 构建于 Lean 之上,后者是一个开源编程语言兼证明助手。该公司将 AI 与自动推理技术相结合,构建出 Lean 能够检查的证明。
Lean 是前沿模型用来解决各种极其困难数学问题的语言。例如,就在本周,GPT-6.2 Astra 产出了 Vals 认为的“Smoktunowicz 间隙定理的首个 Lean 证明”。Vals 还补充说,Anthropic 也用 Lean 形式化了费马大定理,该项目多达 1300 万行。
最新的数学大新闻是,有报道称 Anthropic 的数学家 Levent Alpöge 声称他用 Claude 证明了已有 167 年历史的黎曼猜想——并且他用 Lean 发布了这一证明。
来源:Lean 项目网站上的 Lean 代码示例
&Truth 正在 Lean 框架之上构建其所谓的“验证机器”,目标是读取“任何语言的代码,证明其是否满足精确陈述的需求,并让人类无需理解每一行就能信任它”。
“Lean 所做的就是检查你有没有犯错,”Barrett 解释道。“所以你可以把它看作一个非常精密的数学检查器。”
这对模型训练也有意义。Axiom Math 使用形式化验证为其数学推理系统的训练提供正确性反馈,证明尝试有助于改进未来的模型。
在 6 月接受 Latent Space 采访时,Axiom CEO Carina Hong 指出,形式化验证——以及 Lean 所赋能的东西——不仅仅是一种防御措施。
“形式化验证,或者说经过验证的 AI,对我们来说不仅仅是处理或剔除那些糟糕的东西、幻觉、错误。它是关于扩展卓越,是关于超级智能。”
Axiom 开发了 AxiomProver,一个生成 Lean 证明的 AI 系统,以及 AXLE,其用于探索、验证和操作这些证明的工具包。
Harmonic 的 Aristotle 是一个“自动定理证明器”,在其产品中大量使用 Lean。“在 Aristotle 内部,AI 编写证明,Lean 检查每一步,因此结果从不依赖于 AI 是否正确,”该公司在其网站上表示。
来源:Harmonic 的工作流程
网络安全与 LLM 规模化的形式化验证
鉴于如今人们对网络安全的偏执程度不断升高——有人可能会说,在 AGI 到来前的日子里——形式化验证系统似乎比以往任何时候都更加必要。Barrett 确认,网络安全是 &Truth 的一个重点。
“我们技术的一个非常强大的用例是检查世界上所有的 C 代码,无论是开源还是闭源,并努力确保其内存安全。然后,如果它不安全,我们可以指出:这段代码这里有问题,你需要修复它才能保证安全。”
安全也是 &Truth 的竞争对手之一 Theorem 的重点。“当对手扩展时,验证是唯一站得住脚的防御,”Theorem 在其主页上表示。
来源:Theorem 的证明效率评估:“在我们的证明效率评估中,按模型发布日期,每小时验证的机器代码 KB 数,置信区间 95%。”
Theorem 还就此主题与 Anthropic 合作,产出了一篇题为“LLM 正在使形式化软件验证在更大规模上变得可行”的博文。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。