
学者Jessica Hullman撰文讨论AI for science中验证与理解的关系
来源标题:Verification Is Not Knowledge: Science needs more than answers
西北大学计算机科学教授Jessica Hullman在客座文章中讨论AI for science的争论:科学进步应以可验证的输出为准,还是应以人类获得理解为标准。她指出重视输出的一方把强调理解的声音斥为守门或怀旧,并援引数学家Bill Thurston关于数学研究成功标准的观点展开论述。
以下正文由 AI 翻译自 Hacker News(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Cosmos Institute 与 Jessica Hullman 2026年10月30日 46 3 13 分享 本文是 Jessica Hullman 的客座文章。她是西北大学 Ginni Rometty 计算机科学教授兼政策研究员。 Diego Velázquez,《阿拉克涅的寓言》(约1657年) Bill Thurston 在论述严谨证明在数学进步中所起作用时写道,数学研究成功的衡量标准是“我们所做的工作是否能让人们更清晰、更有效地理解和思考数学”。近来许多关于 AI for science 的讨论,都围绕理解与答案之间的张力展开。科学究竟是关于人类获得洞见,还是关于归档可验证的解答? 一方优先看重产出。进步被认为体现在对长期猜想的可验证证明以及对疾病的治愈上,无论其中是否有人类参与。另一方则认为人类理解至关重要,因为理解推动新发现融入知识正典,因为它塑造并启发下一代,等等。但第一方——那些强调正确产出的人——将此斥为守门主义或怀旧情绪。 Terry Tao 在最近一次演讲中提出了一个思想实验:如果一种癌症治疗方法由 AI 产生,附带形式化的正确性证书,并通过了 3 期临床试验,但没有任何人类理解它是如何被找到的,人们会对此感到多大程度的安心?批评者认为 Tao 的推理没有抓住重点。当然,一个处于癌症四期的病人会欢迎这种治疗。 其他例子涉及作者身份的模糊性。Tom Dietterich 写到 arXiv 日益严重的问题:由人类作者提交的论文,其作者似乎并不具备理解文中主张所需的专业知识。许多人回应质疑:如果验证问题已经解决,问责——我指的是对某一主张负责、能够描述其依据并在受到质疑时作出回应——为什么还重要?我建议同行评审员将专家判断留给那些没有被标记为大量 AI 写作的文本,从而优先将评审视为人类交流,但一些人认为这是对求真之路的阻碍,而非对真相的维护。 问题在于,如果我们都同意产出重要——我们确实关心长期猜想的解答,我们最终确实想知道如何治愈疾病——那么理解就显得是另一回事。它被描绘成一种心理状态,在治愈方法或证明本身旁边显得可有可无,并且很容易被贬为二阶约束,是我们因为历史上一直需要它才能首先得到解答而附加上的东西。 当理解的捍卫者不质疑这种分离时,他们立刻输掉了论辩。优先看重产出的一方很容易将他们标记为 simply 不够努力去设想新的未来。但我们不断退回到的那种对理解的肤浅框定,掩盖了这些例子共同指向的更深层关切。它们与其说关乎任何人的心理状态,不如说关乎当事情出错时会发生什么。Tao 的场景关键在于一种可能性:AI 利用了试验本身的弱点通过了试验。一篇作者无法解释其主张的论文,如果这些主张失败,就无人可咨询。 我们究竟在何处开始相信,科学价值仅在于正确性? 这种直觉最终与其说关乎 AI,不如说只是表面上如此。让 AI 驱动科学的倾向,与其说是对 AI 未来的前瞻性体现,不如说是一种自冷战时代以来塑造我们思维的“价值无涉理想”的症状:这种观点认为,只有认识论标准(而非伦理和社会价值)才配在判断证据表明什么时占有一席之地。它弥漫于我们关于 AI for science 的辩论中并不令人意外;拒绝价值无涉理想成为哲学主流不过是最近几十年的事。 这种理想助长了不切实际的期望,并使我们无法看到:抵制 AI 产出快速渗入科学记录,既不反 AI,也不反科学。利害关系远超任何单一辩论或领域。价值无涉理想扭曲了我们寻求真理的方式,使我们把经过验证的结果误认为知识。它威胁着支撑科学的人类能力,使我们把批评和问责视为不便的额外负担,而非知识生产的机制。它让我们对理解是什么感到困惑,进而困惑于它为何重要。 科学的社会契约代表了二战后在美国出现的科学与社会的理想化关系:科学家获得公共资金和自主权,作为回报,社会获得其探究带来的益处。该契约建立在纯科学与应用科学的区分以及“线性模型”(基础研究滋养应用工作)之上,用实际的社会效益取代了关于理解价值的抽象论证,重塑了我们看待科学的方式。它借鉴了19世纪末忧心忡忡的科学家们的论点——他们担心公众对电灯和蒸汽机等新发明的颂扬会挤占对他们视为更本质贡献的尊重——也帮助锻造了一种价值无涉理想,即科学的核心必须脱离伦理或社会关切等“语境价值”。为了使社会契约作为科学进步的模型获得广泛的社会认同(进而巩固政府对科学研究的投资),我们需要将求真想象为对方法的非人格化应用,不受政治或社会压力的影响。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。