
研究:AI写代码越多,开发者对代码理解越少
来源标题:The Productivity Trap
一篇分析指出,从纯手写代码到AI全写、AI审的演进路径中,开发者对代码的理解程度逐步下降。作者认为阅读代码耗费时间,追求生产力最大化必然要减少参与和理解,这会扩大AI作为错误来源的风险,而开发者自身的错误来源并未减少。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
无 AI → 完全由 AI 编写代码、人工审查 → 完全由 AI 编写代码、AI 审查 越往右走,你得到的代码越多,而人的参与越少。基本逻辑也告诉我们,你对代码的理解同样越少。 理解和熟悉代码的最好方式就是去写它、用它。光靠阅读能带给你的东西有限。而且阅读本身也很耗时,所以如果目标是最大化生产力,你也必须减少对代码的参与和理解。每一步朝向速度的提升,都是远离理解的一步。 减少理解会扩大 AI 作为错误来源的向量,而开发者原有的错误向量依然存在:开发者仍可能误解,他们的经验仍会影响他们能发现什么,他们的个人态度仍会影响最终结果以及他们愿意冒什么风险,等等。所以我们是在扩大一个错误向量,却没有真正收窄另一个。 有人可能会说这是值得的权衡。是的,这在很大程度上是主观的,往往取决于人们习惯什么、看重什么,但至少我们要承认这里确实存在权衡。我还想说,它是否值得,必须放在所构建的东西及其可能对真实人类造成的影响这一背景下看待。 如果这是那种一旦出错就会造成真实伤害的软件,那我就要质疑我们是否应该、或是否想要打开额外的错误向量。 所以,不,我不是说 AI 会自动导致下一场 Horizon 丑闻。我是说,那些例子就是赌注所在。软件出错时已经会伤害到人,而我们现在又增加了一个新的错误来源,同时丢掉了本应捕捉这些错误的深度理解。这个交换是否可以接受,是每家企业都应该进行的对话,而眼下大多数企业并没有,因为生产力是桌上唯一的东西。 在谈论错误向量时,我还提到了从无 AI 到完全由 AI 编写(并由 AI 审查)代码的光谱,以及沿这条光谱存在权衡。其中之一是责任。 我们自动化得越多,就越觉得可以把责任转嫁到别的东西上。有时候这确实是值得做的事。例如,用安全工具扫描我的依赖项,比我逐一检查并跟踪每一个 CVE 要好得多。所以依赖工具不一定是坏事,但我认为我们应该问自己界限在哪里。我猜不同的人会得出不同的结论。 我认为我们必须意识到、并更多讨论的,是 AI 如何影响这一点。尤其是在那些正趋向于用 AI 尽可能自动化的组织里:你在哪里把决策交给机器,之后你还觉得自己对它们负责吗? 外面有很多人声称 AI 负责测试、实现和部署,而他们基本上只是坐在问题跟踪器(比如 Linear)里管理。我们无法否认,在这样的设置中,大量决策已经交给了 LLM,随之而来的,至少在心理上,大量责任也交了出去。而如果这就是我们想要的行业形态,那我们也必须接受,我们正在把决策权交给 LLM。 一旦我们接受正在把决策权交给 LLM,我们也必须问自己:LLM 能以什么方式负责? 人类开发者可以被追究责任。如果他们不履行这份责任,他们可能被解雇。而且随着他们在组织中工作,我们可以在多年间建立信任。AI 并不在乎自己是否被替换,而“信任的建立”最多只到其上下文窗口允许的范围。LLM 不在乎它是否制造了一个夺走生命的 bug。 让我们明确 LLM 的“本质”:它们不是会思考的生物。它们没有生命,也不会思考。它们是统计模型,在大量文本上训练以预测下一个 token。我们可以对输出多么印象深刻都行,但归根结底它只是 1 和 0。里面没有人:没有任何东西能感受、在乎,或为自己的所作所为负责。只是一个应用程序。 既然它“只是一个应用程序”,我们也必须正视一个事实:我们正在把大量责任分配给这个应用程序,并赋予它大量做出判断的权力。IBM 1979 年的一张培训幻灯片经常被引用来说明这一点:计算机永远不能被追究责任,所以计算机永远不能做管理决策。如果它搞砸了,它无法被追究责任……然而我们现在看到公司炫耀自己不做“手工编码”。 这就留下了一个令人不安的事实:责任其实从未真正转移。它仍然是你的,无论代码是你写的、你略读过的,还是你压根没看过的。我们越是把东西卸载给机器,就越要面对为我们没做过的决策和我们不理解的代码负责。 这是我对如今人们使用 LLM 的方式的一大意见。似乎“责任问题”被淡化或推到一边,因为“我们得快点”。 企业和开发者都难以进行长期思考,这并不是新现象。企业关注下个季度,开发者通常关注当前项目……或者当前 sprint。不幸的是,开发工作一直被围绕短期思维来组织。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。