返回资讯中心
外部精选
软件工程
#开发者实时流

AI推动形式化验证投资升温,多家公司投入数亿美元

来源标题:What's Going on with Program Verification?

形式化验证领域正迎来投资热潮,AI既是安全威胁的来源也是解决手段。Theorem公司公布了1.34亿美元的nixpkgs验证路线图,Harmonic和&Truth分别融资2.95亿和7000万美元开发自动化验证工具。Anthropic与Theorem近期已验证123个开源库中的239个入口点不会崩溃。

Hacker News 最新matt_d2026/11/18 · 今天27 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

作者:Noam Zilberstein,2026年11月17日

五年前,我作为Facebook的一名软件工程师,参与了一个小型项目,目标是形式化验证一个新微内核的进程间通信。我们当时希望,这个项目的成功能够带动公司内部对核心基础设施的进一步验证工作。尽管高层对我们发现的bug和优化成果印象深刻,但对进一步验证的兴趣并未真正落地。

如今,局面已大不相同。Theorem制定了一项1.34亿美元的路线图来验证nixpkgs,而Harmonic和&Truth分别融资2.95亿美元和7000万美元,用于构建自动化软件验证工具。形式化验证正迎来它的高光时刻,而AI既是问题所在,也是解决方案。AI agent正在安全关键软件中发现越来越多的bug和漏洞,这让人们有了投资验证的动力,以预防一场经济上灾难性的黑客攻击。与此同时,AI agent能够快速完成大规模的验证任务,而这些任务在过去可能需要人类数年乃至数十年的努力。

Anthropic和Theorem最近使用1.8亿行机器校验的Rocq证明,验证了123个开源库中的239个入口点永不崩溃。Google用650万行Lean验证了Signal的安全属性。看到验证以如此规模开展固然令人惊叹,但这也让我不禁思考:在这个令人困惑的新世界里,作为一名形式化方法研究者,我能扮演什么角色。

从表面上看,近期的验证工作实现了某种此前只有人类才能做到、但从来没有人真正会去做的事情。用Rocq或Lean手工验证数千行C代码,从原理上讲多年来一直是可行的,但从来没有人会花钱雇一支证明工程师团队去做这件事。从这个角度看,在agentic验证上投入巨额资金是合理的。

但如今投入到定理证明工作中的计算资源规模令人震惊。OpenAI估计,Navier-Stokes证明背后的算力对客户而言大约需要1500万美元。Theorem估计验证nixpkgs需要1.34亿美元,而这个预测只有在LLM验证速度连续一年以上每隔一个月翻一番的前提下才成立,否则费用会飙升至64亿美元。Anthropic和Google对于生成各自证明所需的token用量则不那么透明。

既然如此,定理证明已经变成了计算,我们就必须面对如何优化这种计算的问题。在Theorem自己的36个小型C程序基准上,2026年9月最好的模型每小时只能验证0.6–0.9 KB的机器码。Theorem预测这一速度每两个月翻一番,但这一趋势仅基于四个月的数据。随着验证成为前沿AI实验室更重要的目标,持续改进的空间固然存在,但持续翻番的说法缺乏充分支撑。

对比一下传统的静态分析。Astrée能够可靠地证明C程序不存在运行时错误,它在2003年代的PC上,用1小时20分钟分析了空客A340多达132,000行的主飞行控制软件,后来又用14小时处理了超过一百万行的A380代码。Infer能在10–15分钟内报告Facebook数百万行代码库的代码变更,其姊妹工具Zoncolan在30分钟内处理1亿行Hack代码。Pulse-X是一个基于错误逻辑(incorrectness logic)构建的Infer分析器,它在16分钟CPU时间内分析了8.55 MB的OpenSSL中间代码。

即使在对LLM极为有利的假设下,Astrée在20年前的硬件上运行,也比当今最好的模型在GPU集群上运行快400倍以上。Theorem对OpenSSL验证的定价约为22万美元。按照他们的计算,OpenSSL有5.28 MB机器码,以他们假设的每小时0.5 KB的速度,大约需要10,600小时的模型时间。而Pulse-X在CPU上分析OpenSSL只用了16分钟。单位和OpenSSL版本并不完全对应,但这仍然快了大约四个数量级。换算成美元,差距更大:16 CPU分钟只需几美分,而Theorem的报价是22万美元,相差约六个数量级。

公平地说,新的AI辅助技术远比此前的自动化系统能力更强。Infer、Zoncolan和Pulse-X是bug查找工具,而非验证器,即便是Astrée也只证明运行时错误的缺失。即便如此,这一差距表明未来属于神经符号方法。数十年的程序分析研究教会我们:组合式摘要、精心设计的抽象域以及工程化良好的启发式方法,使Infer和Astrée这类工具变得快速。与其把前沿模型用在每一行代码上,不如让符号机制去做它已经擅长的事情,只在没有良好启发式方法的问题上少量调用LLM,比如发明一个棘手的循环不变式,或分派一个验证条件。大量产出证明产物表面上看起来很 impressive,但可能存在从根本上更高效的方法来达到相同结果,而开发这些方法需要新的基础研究。

抛开成本不谈,当今大规模验证在可验证的种类上还有其他局限。在Anthropic和Theorem的实验中,Claude从现有的模糊测试中推导出规格说明,并证明对于任何小于64 MB的输入,程序都不会出错或中止,包括在AddressSanitizer(ASan)检查下。ASan只能捕获内存错误的一个子集,而且该属性并不涉及功能正确性(尽管少数例子,比如将Linux内核的zlib与其RFC进行对照检查,确实走得更远)。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →