研究指出AI只能学习思考的产物，无法学习思考过程本身

noparrit / Getty Images AI从思维的产物中学习，而非思维本身。这对机器是个问题——对我们也是 发布于：2026年11月5日 格林尼治标准时间下午6:57 https://theconversation.com/ai-learns-from-the-products-of-thinking-not-thought-itself-thats-a-problem-for-machines-and-for-us-293696 https://theconversation.com/ai-learns-from-the-products-of-thinking-not-thought-itself-thats-a-problem-for-machines-and-for-us-293696 链接已复制 分享文章 分享文章 复制链接 电子邮件 Bluesky Facebook WhatsApp Messenger LinkedIn X（Twitter） 打印文章 当你走过一间画廊，欣赏墙上的画作时，你所看到的是成品。它们是无数小时的学习、练习和反复试错的结果，但这一切都不在展示之列。 我们所见的大多数专业工作都是如此。音乐录音不会收录那些失败的尝试和即兴排练，出版的书籍会略去凌乱的草稿，科学论文也不会提及多年的错误起步和死胡同。 换句话说，我们实际看到的，是产生它的真实过程所留下的痕迹。人工智能（AI）模型正是基于这些痕迹进行训练的——因此，它们自己产出的也是痕迹，这些痕迹在形态上像是思维的产物，但未必以同样的方式产生。 在一篇新论文中，我们提出，只关注痕迹而忽略过程，会束缚当前的AI系统——而使用这些系统的人也会遇到同样的问题。 较新的“推理”模型或许会打印出一份步骤报告，但这份被报告的推理本身不过是另一种痕迹。它往往与驱动答案的实际计算并不一致。 智能体系统稍稍更接近真正的思考。在这里，围绕大语言模型的软件“框架”运行一个循环，将结果反馈回去，并在过程中引入一些真正的试错修正。但中间的那条思维链——由大语言模型产生的部分——仍然只是一种痕迹。 这一差距在创造性领域最为明显。画家和音乐家有时会谈到，创作过程中发生的意外和摩擦如何改变了他们的作品，比如颜料意外流淌，或者乐器听起来“不对劲”。AI模型从不会遇到这类情况。 这个问题在人类身上的表现形式比AI古老得多。1997年，一位美国航空公司的机长警告说，飞行员正在变成“品红色线条的孩子”。 他们如此忠实地跟随飞机的飞行计算机，以至于手动飞行技能在不断退化。自那以后，航空业一直在采取措施管理自动化依赖。 当一些医疗诊所采用AI辅助结肠镜检查，利用软件在实时摄像头画面上标记可能的息肉时，同样的事情也发生了。一段时间后，人类临床医生的技能开始退化：他们在没有AI系统辅助时检测到的息肉数量，比引入该系统之前更少。 这种效应在课堂上也出现过。高中数学生获得不受限制的生成式AI支持时，在工具可用的情况下表现优于同龄人，但一旦工具被拿走，得分就更低。 这种退化可能发生得很快。一项研究发现，大约十分钟的AI辅助就足以让人们在没有AI时表现更差，并且更快放弃问题。 对此能做些什么？答案可能是将更多过程纳入考量。 对AI而言，这意味着构建自身使用更接近人类过程的系统。一个助手在有人质疑它如何界定问题时，可以修正自己的答案，而不是像当前系统那样常常只是随声附和。或者，一个智能体可以从失败和错误中学习，让来自现实世界的反馈实质性地改变它处理任务的方式。 对人类而言，这意味着设计AI工具时，要保住个人内部的智能过程。在哈佛大学的一项试验中，由构建良好的AI物理导师指导的学生，比主动学习课堂上的同龄人学得更多、更快，因为导师让他们持续进行生成性工作。 一个好的AI助教，应该更经常地提供通往答案路径上的下一个问题，而不是直接给出答案。有时它应该提出一个歧义，而不是消除歧义，因为合理的判断往往来自对未知之事的缓慢斟酌。 过程才是真正智能和创造力得以涌现的关键。一个纳入了更多此类过程的人工系统，将更接近真实之物。 人类学习同样需要过程。在教育中，在任何技能性事业中，我们都需要考虑如何设计和应用AI系统，以保住更多的思考和学习过程。 目前，机器很容易产出更多的思维痕迹，但过程要难构建得多。如果我们做对了，我们的机器可以变得更智能，而不会让我们变得更不智能。 本文与Rachel W. Kallen、Ayeh Alhasan、Cassandra Crone和David M. Kaplan共同撰写。文章借鉴了我们与同事Manuel Varlet、M. Paula Diaz Monfort、Patrick Nalepka和Mark Dras的研究。 人工智能（AI） 学习 教育 创造力 大语言模型 新研究，澳大利亚与新西兰 Michael Richardson，麦考瑞大学 作者 Michael Richardson 麦考瑞大学心理科学学院教授 Michael Richardson获得麦考瑞大学2025年教育创新资助（Spark）。 麦考瑞大学作为The Conversation AU的成员提供资助。