返回资讯中心
外部精选
软件工程
#开发者实时流

AI让文档看似深思实则空洞,作者提出「AI Slop Spiral」现象

来源标题:AI Slop Spiral

Nolan Frausto 提出「AI Slop Spiral」概念,认为AI让产出看似经过思考,实则思考缺位,导致交付更快但质量更差、交接更糟。他以自身一天收到七份PRD、技术规范、事故报告和QA计划为例,说明这些文档经由AI摘要、设计、技术方案和测试生成逐层传递。结果是组织流程在看似高效中逐渐陷入低质内容的循环。

Hacker News 最新frausto2026/11/17 · 昨天19 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

所有文章Nolan Frausto2026年8月18日6分钟阅读 AI 垃圾螺旋 AI 是个极其强大的工具,但它也让人很容易在产出某些看起来很像思考成果的东西时,完全不去思考。结果就是产出更快、交接更糟,以及一个慢慢陷入垃圾螺旋的组织流程。 我眯着眼看显示器,亮度调得太高了。背景里一盏将坏的灯发出微弱的嗡嗡声,只被鼠标滚轮的点击声打断。至少这份文档只有十二页。 这是我今天收到的第七份文档。PRD、技术规格、事故报告和 QA 测试计划源源不断地涌来。每一份看起来都很有分量,让我相信组织引擎仍在运转。工作继续在机器中流转。 我把最新的 PRD 丢进 AI,让它给出摘要、风险和优先级。我在脑子里勾勒出项目轮廓,问几个问题,然后批注下游应该验证哪些内容,签字放行。 PRD 被异步交接给工程和设计。设计用 AI 做素材和原型图。工程用 AI 把它变成技术方案。QA 用 AI 跑一遍,生成验收标准。 工作推进,功能以创纪录的速度上线。一天后,我们把它回滚了。 好几个事件缺失了。重要数据没有被填充。一个重复记录的 bug 让人可以创建多个账户。而且功能本身和利益相关者设想的完全不一样。 接下来两周全花在分诊、对齐认知、试图搞清楚到底发生了什么上。 开会。澄清需求。争论归属。补测试。团队回头翻最初的文档和素材,发现有些事情从来没被明确说明过,有些事情技术上写了但被理解成了别的意思,还有几个关键假设只存在于某个人的脑子里,或者根本不存在。 最终,我们再次上线了这个功能。但现在每个人都筋疲力尽,团队对流程和对彼此的信任都损失了一些。 然而,从一开始,每一个单独的步骤看起来都更快了。 AI 让一个人能以几年前看来荒谬的速度写作、分析、设计和构建。它也让人可以在产出某些看起来很像思考成果的东西时,跳过思考。 一份十二页的 PRD 看起来很严谨。四十条验收标准看起来很全面。一个带着几十条评论的 pull request 看起来被仔细审查过。每份产物成为下一个团队的输入。PRD 变成原型图、规格和测试计划。这些又变成代码、评审意见和测试。这是一场每一步都有 AI 参与的传话游戏。 在每一步,上下文被压缩、转换、扩展,然后再次转换,共享的理解沿途丢失。文档变得越来越细,而依据这些文档工作的人却越来越不清楚大家当初到底同意了要建什么。 真正的危险并不是 AI 产出糟糕的工作——公平地说,人类一直都在产出糟糕的工作。危险在于,AI 能在你还没想完一个模糊想法之前,就把它变成一份看起来已完成 的文档。它填补空白,抹平矛盾,补上没人讨论过的细节。那些细节可能完全合理。但有谁同意过它们吗? 文档看起来越精致,就越没有人会去质疑它。而你管理的 agent 越多,你就越没有时间仔细阅读它们的产出。 这种信心会蔓延。PM 假设工程理解了需求,因为 PRD 很详细。工程假设需求已经确定,因为 PRD 被批准了。QA 假设预期行为是正确的,因为它来自 PRD。领导层假设流程运转良好,因为产出上去了,工单流转更快了。 然后项目失败了,组织留下了一份完美的记录,证明没有人理解整件事。 我们每个人或多或少都在这件事上自满。 没人想发现竞争对手已经发现了某种神奇的新工作方式,而你还在像个白痴一样开会。所以方向从上面压下来。“多用 AI。”“把 token 拉满。”“百分之九十九的代码应该由 AI 写。” 花两周搞清楚我们最初到底想表达什么,这个成本落在了别处。然后我们纳闷,为什么每个生产力指标都在变好,生产力感觉却更差了。 这种推动被 AI 公司、咨询顾问、投资者和高管的营销所鼓励,而这些人并不需要生活在让这些系统运转的日常现实中。 他们看到演示。他们看到 benchmark 的提升。他们看到一个人在十五分钟内构建出一个应用。当一切都在冲你喊,说使用 AI 是解锁存在中一切潜力的金钥匙时,那当然每个人都应该用 AI。 然后停机时间增加。返工增加。成本增加。项目不知怎么地耗时更长。人们搞不清系统是怎么运作的。没人能解释为什么每个生产力指标看起来都在变好,生产力感觉却更差了。 我们在最大化产出,并假设产出就等于进步。 AI 非常擅长帮我们维持这个幻觉。 我知道这整件事可能让我听起来像个老头对着云彩大喊,抱怨世风日下。让我说清楚:我是支持 AI 的。我用 AI 编辑了这篇博客文章。关键词是编辑。初稿是我自己写的,之后让 AI 清理,然后我又编辑了一遍。我还在摸索如何最好地利用它来写作,但我觉得在写这篇特定的文章时做这个练习很有意义。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →