返回资讯中心
外部精选
软件工程
#开发者实时流

AI辅助代码破解黎曼猜想,引发对软件工程复杂性的反思

来源标题:Was software just always too complex for humans?

黎曼猜想据称通过1700万行AI辅助代码被破解,且已被认证正确,但尚无人类理解其工作原理。文章借此反思软件工程长期存在的复杂性失衡问题,指出数十年人类编写的代码充满漏洞,并质疑人类编写软件的能力是否被高估,以及LLM工具改进后软件工程能否赶上。

Hacker News 最新nathcd2026/11/22 · 今天13 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

上周,传说中的黎曼猜想被 1700 万(!)行 AI 辅助代码攻克时,我一直紧盯着 Lean 的聊天记录。此后该证明被认证为正确,尽管还没有人(暂时)理解它究竟如何运作。数学以及许多科学的未来,显然将涉及人类与 AI 的协同增强。然而,这也让我深切地意识到,在我的一生中,软件工程竟然一直如此千疮百孔!

我们对计算理论的理解,与我们将软件部署到整个社会的不懈冲动之间,始终存在着失衡。如今我们正在自食其果——过去几十年人类编写的代码,原来充满了 bug。既然软件本质上驱动着当今社会,各种怪事便层出不穷,比如超市的冰箱需要詹姆斯·邦德级别的安保。这促使 Tim Gowers 这样的人加入了 Pause AI 的游行。我们到底是怎么走到这一步的?是我们完全高估了人类编写软件的能力?还是说,一旦 LLM harness 变得更好,软件工程就会“迎头赶上”?

在 AI 出现之前,攻击者与防御者大致势均力敌,软件还算处于可控状态;但近来那些神秘的关联性宕机以及被披露的漏洞(Java、PHP、Linux)都指向 2027 年安全之痛将加速到来。在我看来,只有两条路可走……

数学与计算机科学的区别,via Erik Meijer

今年四月,我还无法相信我们终有一天会形式化地规约硬件和软件的每一层:

我很难相信我们会有朝一日形式化地规约硬件和软件的每一层,并将它们投入生产……永远不可能。《深渊上的火》里的软件考古学家,是一个今天就已存在的职业,而不是科幻小说里的桥段。 ——《互联网急需一个反 bot 免疫系统,立刻马上》,2026 年 4 月

几个月的时间差别竟如此之大。以尖端模型进步的速度来看,如果我们先加速为所有服务定义形式化规约,并据此推导所有新软件,那么翻译庞大的现有遗留代码似乎完全可行。这意味着要从头重建操作系统栈,甚至重新设计指令集以与之匹配。整个栈中遍布着糟糕的遗留接口,这主要是因为我们的软件分层不断生长,以便让不同的人类群体能够分工协作、规模化地工作。不过,其他方法确实能让事情更容易些。采用 libOS 链接纪律的 Unikernel,加上共享内存互联,具有惊人的可组合性,能让 agent 在链接时对整个栈进行特化,更少的接口也让规约任务不那么令人生畏。

拥有良好的规约还顺便把人类从安全响应的补丁循环中解放出来。攻击者目前只受限于他们想入侵某处的欲望,而防御者却得等待维护者的分诊。然而,从形式化规约重新推导并经机器校验的修复,能够更可靠、更及时地奏效。人类的工作仍然是与 AI 一起迭代地编写接口。

从历史上看,软件通过复用趋向于单一栽培,因此一个 bug 就能坑害大量主机。Agent 反而可以通过新颖的“遗传”机制强制多样性,这样数字服务就不会同时全部被感染。这与形式化规约配合得很好,因为任何像样的规约都允许多个有效实现。互联网的整个哲学就建立在 Postel 定律之上,鼓励主机在接收时宽容、在发送时严格。

当然,问题在于:仅由少数几个受控的尖端模型来生成我们所有的软件,这会让我们跳出油锅、又落入 AI 控制的火坑。多样性必须超越代码,延伸到模型和 harness。我们在互联网 RFC 没有过度分裂这件事上似乎做得还不错,所以也许形式化规约可以保持单一。一旦做到这一点,就该让主机去变异、去互相接种,并在规模上最大化不可预测性了!

回答我开篇的问题:我认为仅靠更好的 harness 和模型并不能让软件工程迎头赶上,因为它们只会产出堆积如山的垃圾代码。我们两者都需要:形式化规约让主机终于能对接收的内容严格把关,而不是宽容地接受一切出现的东西;而多样性则确保规约(不可避免地)未能涵盖的东西不会在所有地方、所有时间同时崩溃。

不过,真正的剧变将发生在社会化编码上。开源社区一直靠数十年来建立的人类评审与信任的社会契约运转,而我所参与的每一个社区,都在 AI 披露与信任的问题上苦苦挣扎。至少人类还没失业!总得有人来决定我们的规约包含什么,就像几十年来我们对 RFC 所做的那样。此外还需要大量新的计算机科学研​​究!我们需要弄清楚,当没有两个节点运行相同代码时,如何调试多样性;如何对 agent 维护的系统强制实施简单性;以及最终,当事情真的出错时,我们如何了结那些甩锅大战……

(感谢 Dave Scott、KC Sivaramakrishnan、Thomas Gazagnaire 和 Sadiq Jaffer 就本文进行的有益讨论,也感谢 Yaron Minsky 以其 eBPF 观察触发了这条思路。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →