返回资讯中心
外部精选
软件工程
#开发者实时流

AI代写文档引发验证债务,从代码蔓延至报告与法庭

来源标题:Verification debt has moved from code into reports, tenders and courtrooms

AI生成内容带来的「验证债务」正从代码领域扩散到报告、招标文件和法庭等场景,发送者获得功劳,阅读与核实的成本却由他人承担。Amazon CTO Werner Vogels 在2025年12月公开提出这一说法,指出代码可以瞬间生成,但理解无法同步到达。加拿大学者 Kevin Browne 早在其五个月前就针对所有 AI 输出提出该概念。

Hacker News 最新devolve2026/11/5 · 12 天前16 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

现在办公室里产出最高的人,是那些发出去自己都没读过的文件的人。功劳归他们,账单归别人。

几周前,一家小型技术代理公司的创始人在 LinkedIn 上写了他从潜在客户那里收到的需求规格说明:二十页,详尽、专业。然后他追问内容,客户却解释不清其中一半为什么会在那里。

严格来说,没人写过它。也没人读过它。现在他不得不读。

这就是验证债,它正像 2008 年的 CDO 一样越堆越高。

Amazon 的 CTO Werner Vogels 在 2025 年 12 月把这个说法带上了大舞台:“代码瞬间到来,但理解不会。”“这就是所谓的验证债。”

这不是他发明的。加拿大讲师 Kevin Browne 早五个月就写到了它,针对所有 AI 产出,而不只是代码。自那以后,它基本停留在软件行业——唯一一个早已为应对它而建立起来的行业。

我在内部传阅了它。我们都热烈讨论,以为自己还有时间做好准备。结果却发现,我们的个人上下文正越来越多地被它计费。

总之,技术债意味着你知道自己抄了近路,以后要为此付出代价。验证债意味着没人知道是否抄了近路。它悄无声息地累积,因为 AI 产出看起来是成品,而通常由别人来买单。

在瑞典语里,我开始把它叫作 granskningsskuld。据我所知,还没有别人这么叫(首创!!1)。

法院那边的数字最漂亮。美国提交给法院的文件中含 AI 编造材料的情况,从 2024 年的 37 起增至 2025 年的 524 起,2026 年前七个月已达 668 起。其中超过三分之一是今年由律师提交的。有四起涉及法官。

然后是庞大的中间地带:邮件、备忘录、演示文稿。Stanford 和 BetterUp 把它称为 workslop,上个月十分之四的美国办公族收到过一些。在一项后续调查中,超过一半的人承认自己发过。发送者心知肚明。

生成随算力扩展。核查随人力工时扩展。这就是全部故事。

Anthropic 在 10 月对自身做了测算。按其自己的统计,非技术员工仅为了读完其 agent 产出的内容,就需要花费半个工作周。

flowchart TD accTitle: The workslop Ponzi accDescr: Each reader is paid with the next reader's time. The founding investor generates twenty pages in thirty seconds and looks productive. Reader two has no time to read it, so they generate a reply and also look productive. Reader three summarises the summary. The last reader, a judge, an auditor or a customer, has to actually read it, and the scheme collapses. A["<b>Founding investor</b><br/>generates 20 pages in 30 seconds"] --> R1(["Return: looks productive"]) A --> B["<b>Reader 2</b><br/>no time to read, generates a reply"] B --> R2(["Return: also looks productive"]) B --> C["<b>Reader 3</b><br/>summarises the summary"] C --> D["<b>Last reader</b><br/>judge, auditor, customer"] D --> X{{"Collapse: somebody has to read it"}}

每个读者的回报都是“看起来很有产出”,资金来自下一个读者的时间。经济学家称之为“特洛伊木马外部性”。

未经核查的产出会被复制,于是一个错误最终出现在十个地方。另一个 AI 对它做摘要,把可疑的说法变成笃定的说法。最终它被喂回模型。

错误还算容易的部分,因为至少有人能抓住它们。更难的是选择。措辞决定事情:用“必须”而不是“应当”,一条要求排除了半数投标人,一个定义悄悄移动了边界。没人做过这些选择。它们随措辞而来,而无论谁未读就转手,都照样签了字。那就是拿着二十页规格说明的客户。其中没有任何内容必须是假的。他只是说不出它为什么在那里。

“再仔细审阅一下”解决不了问题。当 AI 给出错误答案时,经验丰富的放射科医生准确率从 82% 降到 45.5%。流畅的行文让情况更糟:它抹掉了审阅者用来判断该看哪里的粗糙边缘。

有两种舒服的回应。下一个模型会解决它,或者 AI 正在毁掉一切。随便选一个,你就可以停止思考了。

廉价生成不会消失,也不应该消失。但当人们不再自己写东西,他们就不再建立写作过程中免费附带的理解。这才是 Vogels 真正的观点。你不能靠禁用工具把它找回来。你要决定的是谁负责。

这种事以前发生过。安然之后,答案是有一个具名的人签字。对 AI 而言,洪流和丑闻是 2023 到 2025 年。保险公司和买家现在正在行动。立法者一如既往排在最后。这使得 2027 和 2028 年成为必须有人署名的年份。

2027 年的部分事情已经排上日程,只等分发。

EU AI Act 的透明度规则自 2026 年 8 月起适用。它们关心的是标签,不是真相,只有一个说明问题的例外:涉及公共利益事项的 AI 文本,如果已经由人审阅并承担责任,就无需标签。具名审阅者就此成为合规资产。

瑞典新的产品责任法将软件和 AI 纳入严格责任,定于 2027 年 1 月 1 日起适用。咨询顾问将通过合同和保险感受到它,而保险公司已经在标准责任险中把 AI 排除在外。

到 2028 年,没人会问某样东西是不是用 AI 做的。一切都是,标签规则也会这么说。问题是:谁核查了它,以及他们是否为此负责。

最后这一点正是修复方案内部的陷阱。具名审阅者必须有能力审阅,而审阅者过去是通过做那些如今被生成的工作来学习的。在 AI 使用最密集的地方,这已经开始:在 Anthropic,自 2025 年初以来,初级员工在技术招聘中的占比从 27% 降至 9%。一个无法验证的具名审阅者,不过是旧债上多了个签名。

修复不必等待新法律或更好的模型。它需要有人承认阅读是工作,并为此做预算。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →