返回资讯中心
外部精选
软件工程
#开发者实时流

文章探讨AI在不可验证领域的代价:无验证的垃圾内容会累积成债

来源标题:Slop and Verification Debt

文章指出,AI在可验证领域(如会计复式记账、软件编译和测试)表现出色,但在混杂数据源、缺乏边界条件的领域中自由发挥时效果不佳。未经核实的错误内容会随规模扩大而累积,形成“验证债务”,拖累组织生产力并打击人员积极性。

Hacker News 最新diatone2026/11/19 · 今天6 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

优秀的代码是逐步写出来的,优秀的理解也是逐步建立的。反过来看,处理未经核实的垃圾信息,其成本会不断累积——垃圾越多,代价越大。在“垃圾手榴弹”泛滥的时代,人们会失去动力,而这些成本会在大规模组织中侵蚀生产力。

AI 在可验证的领域里表现优异。许多任务和领域天然具备 AI 工作流的边界条件,也就是“可验证领域”中“可验证”的那部分。会计有复式记账。软件有 diff、编译错误和测试结果。

但当 AI 在一堆混杂的数据源上随意发挥、既不了解其细微差别也不清楚它们如何拼在一起时,表现就相当糟糕了。这里缺了回填。那里有个整数强制转换。这张表已废弃但仍然有价值。不同刷新率的数据被 join 成一团糊。还有隐私脱敏。模型可以猜,当然可以,但人们不应该为模型猜测组织本该已经知道的事情而付出代价。

假如你为了接收我的工作成果,指定了一种输入格式呢?一种标准,规定特定概念的含义、度量单位、常见的坑与陷阱等等?假如你定义了 agent 向你交付工作时应遵循的“交战规则”呢?

再假如,当我的 agent 向你发送符合你规范的工作成果时,它还必须附上自己的推导过程呢?用于复现查询输出的 SQL、用于验证和测试结果的脚本与代码,等等。

再假如我们有一条文化规范:没有凭证,就不做评审。假如拒绝那些评审起来完全不划算的工作是正常的——事实上是健康的——而不会被当成对垃圾和愚蠢的侮辱呢?

在我看来,验证债就是 Brooks 定律在 agent 时代的再现。当你看到验证债时,这就是一个信号:你的组织正试图成为“AI 原生”却失败了,感到难堪是正常的。

Brooks 的论点是,每向项目增加一个人,就会增加沟通路径,从而让已经延期的项目更加迟缓。在人与人之间夹着 agent 的世界里,每个 agent 都是沟通图上的一个新节点,于是理解从裂缝中漏掉的机会就更多了。

对 Brooks 来说,解法是“外科手术团队”:一个人负责设计并保持其连贯性,由一个小团队支持他。我认为这里的关键不在于主刀与支持者的比例,而在于团队承担起让事物保持连贯的角色。这一点在今天依然成立。

好消息是,我相信验证债是很容易避免的。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →