返回资讯中心
外部精选
软件工程
#开发者实时流

Justin Michael称企业用生成式AI替换关键运维人员酿成大故障

来源标题:Smart People Who Give a Shit Use Tools

Justin Michael发文指出,近期Microsoft 365、United、多家大银行和Apple接连出现大规模宕机,根源在于管理层试图用生成式AI取代那些真正懂系统的资深工程师。他认为这类「在乎系统的聪明人」才是维持基础设施运转的关键,而AI工具每生成一行代码,都在削弱工程师对系统的理解和责任感。

Hacker News 最新notfried2026/11/19 · 今天27 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

在支付系统或老式分布式系统上工作过的人,都懂 Justin Michael 本周那篇文章里描述的那种感受。你掀开经济赖以安静运转的某块基础设施的幕布,期待看到瑞士钟表般的精密,结果发现的是胶带、二十年前的批处理文件,以及全公司只有三个人知道为什么周二绝对不能重启四号机。他管这些人叫“真正在乎的聪明人”,他说得完全对——正是他们让灯一直亮着。

不过文章读到一半,风向变了,而这种论调我最近见得太多了,让我很不舒服。Michael 指出最近一连串大规模故障(Microsoft 365、United、各大银行、Apple),并把矛头指向管理层,说他们想用生成式 AI 把这些人替换掉。这话有道理,大概也确实有几分真相。但他没有止步于批评糟糕的管理。到文章结尾,工具本身已经变成了酸液,谁拿起它就被腐蚀。“每一次 prompt 都让他们离那个曾经了如指掌的系统更远一步,”他写道。每一行生成的代码都剥夺了工程师那种让他们变聪明的挣扎,以及那种让他们在乎的归属感。

言下之意再明显不过:如果你在用 AI,你就是在放弃“在乎”。

我每天都在用这些工具,而且是在那种 bug 会烧掉大笔钱、或者堵死生产队列的系统上,我的体验几乎恰恰相反。最重要的是,LLM 放大的是你本来是什么样的人。极度好奇、真正在乎的人,能大幅放大自己的产出,也能更透彻地理解系统。而懒汉呢,至少目前,可以充当聊天窗口的人肉代理,把工单搬进 prompt 框,然后对吐出来的任何东西点合并。

想一想 2024 年之前,在普通工程团队里“在乎”到底意味着什么。多数时候,它意味着跟时间打一场必输的仗。你发现状态机里有个凶险的竞态条件,知道应该用 TLA+ 建模,或者写个属性测试把所有交错执行都轰一遍,或者去读下游那个四万行的服务,确认自己的假设成立。但一半的时候你没做,因为认真做要花两天,而你没有两天,还有三处火在等着救。于是你眯着眼看 diff,给 happy path 写个单测,留一句略显不安的注释,祈祷一阵子没人碰那个文件。在乎与否,很少取决于人有多想把手头的事做对,而是被一个人能读多快、打多快给配给限制了。

当你把一个有能力的模型交给这样的工程师,他们不会突然耸耸肩,对初稿照单全收。他们终于会去写那份 TLA+ 规格。他们会顺着自己一直好奇的线索往下拉,深挖某个棘手的遗留子系统为什么是现在这个行为,而不是把它当黑盒。他们会给那个不稳定的第三方 API 真正搭一个模拟器——以前谁都没空好好 mock 它。他们会在改动某个遗留函数的契约之前,让模型在庞大的 monorepo 里追踪它的每一个调用方,而不是 grep 五分钟然后祈祷。他们会写穷尽式的边界测试,对那些让他们夜里睡不着的部分跑变异测试。

那种过去只属于写航电软件的人或贝尔实验室研究员的严谨,如今便宜到随便一个普通周四就能做到。把这叫做“不在乎了”,完全说反了。

然后是放大器的另一面。任何 review 过那种 1500 行 PR 的人都懂 Michael 在气什么——作者显然是个“人肉代理”,明显点了“全部接受”,linter 跑绿了,被问到第 400 行时一脸茫然。(我自己也开过巨大的 AI 辅助 PR,不过是为了“在乎”,所以单看行数并不是罪状。)Prompt、粘贴、祈祷,这种事非常真实,而且产出的软件惨不忍睹。我以前写过那种具体的下沉感:盯着 800 行生成代码,脑子里完全没有模型,还交叉着手指把它部署出去。

还有一个更隐蔽的危险,对职业生涯早期的人尤其如此:如果你从不亲自跟古怪的 bug 搏斗,从不自己读堆栈跟踪,你就永远长不出那种“不对劲”的疤痕组织。而 LLM 让懒惰变得格外诱人,因为它们的失败方式很特别。你搞砸了,编译器会冲你大吼;模型则用流畅自信的文字失败,看起来完全合理,直到生产环境着火。这是真实的风险,假装它不存在才是愚蠢。

不过,仔细看看那个场景里到底是什么坏了。问题出在发布没人验证过的代码、没有建立心智模型,而且在一个出了事没人觉得自己有责任的组织里。这种工程师在 ChatGPT 出现之前早就存在了。十年前,他们粘贴 Stack Overflow 最高票答案而不读评论,为了省二十分钟思考而引入一个臃肿的依赖,每次 review 三十秒后就盖个“LGTM”。现在他们可以当模型的人肉剪贴板,至少能混一阵子,直到生产 bug 堆起来,或者有人意识到一个 cron job 干剪贴板这活更便宜。明天把他们的 LLM 拿走,他们也不会突然开始在乎 ACH 的边界情况。他们只会回到以更慢的速度贩卖粗心。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →