返回资讯中心
外部精选
软件工程
#开发者实时流

研究者称AI正导致开源、教育、科研领域信号全面失效

来源标题:AI Is Causing Signal Collapse Everywhere All at Once

Christian Kästner指出,AI能以极低成本伪造几乎所有传统质量信号,开源、教育、研究领域正同时出现信号崩塌。他认为经济学中的信号理论可用于诊断这一现象,并警告若无法再靠信号区分优劣,将出现劣币驱逐良币的「柠檬市场」。作者将这一现象称为signal collapse。

Hacker News 最新jphorism2026/11/9 · 8 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

AI 正在引发全方位的信号崩塌

Christian Kästner 2026年11月5日 81 5 14 分享

AI 能以极低的成本伪造我们过去用来判断质量的几乎所有信号。如今我在各处都能看到这一模式——开源、教育、科研,全都在同一时间崩坏。我发现信号理论有助于诊断正在发生什么、以及为什么它如此令人迷失方向,而信号理论及相关文献可以为我们讨论可能的解决方案提供词汇。

我们在决策中一直依赖基于信号的捷径。我们用品牌名和价格作为质量的信号,看到空荡荡的餐厅和评价糟糕的酒店会心生疑虑,而且不知为何我们倾向于假设头衔是“教授”的人知道自己在说什么。作为人类,我们某种程度上不得不使用捷径,没有捷径我们就无法应对这个世界。而 AI 如今正在广泛侵蚀的,正是我们用于这些捷径的信号。如果我们再也不能用捷径高效地区分好工作与坏工作、真品与赝品,那么做好工作的动力就会所剩无几——经济学家称之为劣币驱逐良币的“柠檬市场”。

变化的速度和规模是新的,这就是为什么我更愿意用“信号崩塌”而非传统的“信号侵蚀”。我们习惯了稳定的信号。有些信号一直有起有落,但过程通常很缓慢:分数膨胀用了几十年时间才降低成绩的价值,伪造来电显示则慢慢让显示号码成为合法来电的弱信号。而现在,大量信号同时变得不可靠。

我们需要捷径

为了有机会应对世界的复杂性,人类在决策中必须依赖捷径。捷径并不总是可靠或无偏的,但它们实际上是在这个世界上运转的必要条件。许多学科都以某种形式提出了这一点:Kahneman 的双过程理论(系统1与系统2思维)、Simon 的满意化、Luhmann 和 Beck 关于系统信任与现代性的论述、生物学对本能的研究,等等。

在我所在的领域,我们经常使用捷径:

开源:我们会跳过 star 数少、README 糟糕或 issue 响应缓慢的包,也可能因为代码结构良好、描述清晰且附带测试而接受一个 pull request。

教育:我们会因为答案简短、措辞糟糕而判低分,视之为理解不足的信号;当学生的解法通过自动评分器时,我们便假设他们已经学会了编程。

同行评审:我们会迅速拒掉一篇论文,把糟糕的写作和少量参考文献解读为思维草率、对领域前沿缺乏了解。

我并不是说这些捷径总是正确或高度可靠,它们当然也带有偏见(润色过的文字偏向母语者,清晰的 README 可能更多说明有闲暇时间而非代码质量)。有些捷径或许无论有没有 AI 都早该放弃。尽管如此,许多有价值的流程只有依靠捷径才能在当前的规模下运转。完整评估的成本只能有选择地支付,而当我们开始怀疑一切时,很快就会不堪重负。

当我们依赖的信号(写作质量、测试、长度、与相关工作的互动)与我们真正关心的品质相关时,捷径是有效的。我们的经验表明,清晰的写作是清晰思维的标志,而这可能常常确实如此。信号让我们无需完整而昂贵的评估,就能快速廉价地了解一件作品的某些信息。我们并不总是用它们做最终决定,尽管经常如此,但至少它们作为快速筛选、剔除 perceived 低质量工作的工具是有用的。

捷径之所以持续有效,是因为伪造我们用于捷径的信号代价高昂。如果不真正完成底层工作,信号就无法被廉价地生产出来。用学术术语来说,伪造成本与诚实生产成本之间的差距使信号变得可靠——这是信号理论的核心洞见。这一成本差距在我所有的例子中都可见:

开源:star 数过去多少能可靠地反映真实的关注,因为没有真实关注就很难积累起来。对于真正在构建高质量包的人来说,好的 README 和及时的 issue 响应本就是工作的一部分。对于追求快速成功的人来说,伪造这一切需要付出真正的努力。

教育:一份好的作业解答自然涉及思考和思路组织,而这让写作变得更容易;在掌握了底层概念之后,通过自动评分器要容易得多。

同行评审:一个扎实的研究项目自然会与领域前沿对话以厘清其贡献,而如果不真正读过相关论文,就很难写出令人信服的相关工作部分。

通过让生成看似合理的文本变得廉价,AI 侵蚀了我们过去依赖的许多信号。这甚至不需要恶意;好的工作、糟糕的 AI 辅助工作和蓄意恶意的工作,在我们旧的信号下变得无法区分:

开源:GitHub star 早就可以购买(我上次查看时,市场价格约为每星 0.07–0.20 美元),但现在 AI 让生成带有真实历史、看起来可信的账号变得容易,从而更好地隐藏它们。AI 也让撰写精美详尽的 README、自动回复 issue、生成描述整洁且测试通过的干净 pull request 变得容易。

教育:AI 现在让回答作业题、写论文、解决编程作业变得容易,而无需任何学习或思考。

同行评审:AI 现在让生成令人信服的相关工作部分变得容易,而无需阅读或理解其中任何内容;也让人围绕混乱或不扎实的贡献包装出一整篇看似可信的论文。

所有这些信号如今都崩塌了,原因相同:它们依赖于写作、编程或互动,而这正是 AI 现在能够自动化的东西。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →