开发者反思AI对软件开发的冲击与短期忧虑
来源标题:Debt and Rust
一名开发者撰文表示,经过数月观察,他认为LLM对大多数日常软件而言实际上代表着抽象层级的进一步提升,模型在理解需求和合理实现方面已相当出色。他同时表达了对AI快速渗入知识工作的短期务实担忧,涉及工作质量与可理解性等问题。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
我在2026年11月写下这些文字。到目前为止,这一年实在太漫长了,即使对我这样幸运地有工作、又生活在非战区的人来说也是如此。
如今,许多知识工作者和大多数软件开发者一样,我也在努力应对AI对我们日常工作造成的巨大冲击。知识工作已被一股浪潮席卷;把这一切正常化,没有任何好处。
这篇文章聚焦于我当时切实的短期担忧,这些担忧由AI当下的进展所引发,涉及我的工作生活以及我周围人的工作生活。
在今年早前的几篇文章中,我1)思考过LLM是否可能成为一种新的高级语言;2)担心过使用LLM生成软件时的质量和可理解性问题。
几个月后,我现在确信,对于日常构建的大多数(但并非全部)软件而言,LLM实际上代表了抽象阶梯上的又一级台阶。这些模型越来越擅长1)理解你想要什么;2)以合理的方式实现它。即使对熟练的程序员也是如此,更不用说现在正在构建软件的非程序员了。这已经是颠覆性的。
更具颠覆性的是,LLM在质量方面已经相当擅长自我清理。因为它们在发现bug(尤其是安全漏洞)方面非常出色,所以它们可以修补自己的工作,达到对大多数用途来说足够好的程度。对于非关键任务的日常软件,LLM可以产出质量足够好的结果。
因此,唯一未被触及的是我对软件可理解性的担忧。而这个担忧只增不减。但首先,让我绕个弯。
过去一个月,我每天都在使用Anthropic的Claude Opus 5.5,这个模型本身以及与其他模型相比都好得不可思议。无论我对AI的疑虑有多深,这项技术的强大力量都让我既无法拒绝它,也无法干脆屈服于它。
我在三个方面使用Opus 5.5:1)设计和实现软件;2)讨论想法;3)个人/家庭事务和网络搜索。
在#2和#3上,Opus比其他模型更好,但并没有给人一种与过去决裂的感觉。而在软件设计、实现和测试方面,Opus 5.5简直就是一股自然之力。
最让我印象深刻的是,这个模型非常擅长发现我写的甚至只是草拟的代码中的问题。让Opus过一遍甚至比实际运行测试更有用,因为模型已经看到了大多数陷阱。是的,它报告的许多东西是不太可能的边缘情况,正确但相关性不大。但它也会报告各种真实问题,包括许多我会漏掉的问题。实际上,一个优秀的SOTA模型,尤其是Opus 5.5,是一个极好的调试过滤器。
其次,我 impressed 于它能以diff的形式为新功能建议草稿。我可以要求非平凡的功能,然后得到与当前代码库风格匹配的最小diff——通常不是一次成型,而是经过3-4次简短迭代。而且几乎总是有来自Opus本身的好想法。
第三,我 impressed 于它写测试的彻底程度。有时过于彻底。这既适用于我代码库中的测试,也适用于更多基础设施相关内容的临时测试(比如在它刚创建的容器中运行一个一次性的nginx来测试nginx配置的更改)。这个模型是一个不知疲倦的测试者,会确保那些难以测试的东西确实能正常工作。而且,它通常能一次性写出整个测试套件,大多数时候第一次就能通过(这种技能水平我手工工作时几乎还没摸到边)。
最后,它的背景知识。它对计算领域了解得太多了。当我在不熟悉的领域工作时(unix sockets、ssh连接复用、浏览器安全模型的棘手细节、新的浏览器API),模型就是知道。我能接触到那些我原本不知道是选项和决策的选项和决策。它就是打了鸡血的stackoverflow。
我发现理解Opus 5.5比其他模型更难。它的写作风格间接(是水印的缘故吗?),更难跟上。它有时也让我觉得自己很笨,但这也许对自尊心是好事。
对于那些仍然不相信LLM是否擅长编程的人,用Opus 5.5一个下午,然后告诉我你的想法。
我不确定LLM是否能创造出优美的代码,或者改变范式的代码。但日常工作代码?绝对可以;无论是范围相当有限的个人软件,还是大公司中需要不断在数千万行代码库上堆叠修复和功能的软件。无论好坏,大多数软件现在正在被工业化。
我们现在有了这些神奇的产物,它们可以为我们写代码,或者当我们自己写代码时,它们可以是惊人的陪练和编辑。有什么好沮丧的呢?
我想说两件事:认知债务和认知锈蚀。
认知债务是:你正在构建的东西中有多少是你不理解的?
认知锈蚀是:依赖机器如何让你的心智能力衰退?
认知债务可以定义为你所做事情中你并不真正理解的那部分。大多数程序员,包括我,在AI之前就积累了大量的认知债务。即使当我基于我从头编写的一套极简JS库构建web应用时,我仍然依赖大量我不理解的东西:浏览器安全模型、JS如何被解释、TCP/IP、操作系统系统调用,以及许多其他使之成为可能的根本性东西。今天我对所有这些的知识充其量是补课级别的——那时更是可笑地初级。而这还只是软件的部分,更不用说驱动它的硬件,或电子学背后的物理学了。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。