
MIT教授Eric So警告:AI正让用户陷入过度依赖
来源标题:‘AI gravity’ is pulling you toward dependency. Here’s how to push back
MIT斯隆管理学院教授Eric So警告,人们正把本应由大脑处理的任务越来越多地交给AI,形成过度依赖的陷阱,可能对企业造成严重后果。他将这种「认知外包」称为剧烈的社会变化,并在即将出版的新书《The Collision: What AI Does to Us》中深入探讨。他认为应尽力保留人类自身能力。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Credit: Rob Dobi Ideas Made to Matter
随着企业不惜一切代价将人工智能工具融入主流工作流程和业务实践,它们可能忽视了AI广泛使用对机构知识和批判性思维的长期影响。
MIT Sloan管理学院全球经济学与行为科学教授Eric So认为,AI正在改变人们大脑的运作方式,制造了一个用户过度依赖技术的陷阱,这可能对企业产生严重的潜在后果。
“我们越来越多地将大脑本应处理的任务交给AI系统——它们替我们思考、替我们写作、替我们创作,”So在最近由MIT Sloan演讲系列“AI + X:AI如何改变管理实践”主办的活动中表示。
“每一次我们进行这种认知外包,我们都在参与一场剧烈的社会变革”——这场变革不应被轻描淡写地对待,So说。他在即将出版的著作《碰撞:AI对我们做了什么》中深入探讨了这些变化。
“我们需要尽一切努力保护自己的能力,识别这些工具何时出错,理解它们何时遗漏了什么,并在这些系统失灵时能够采取行动,”他说。
So列举了三种导致过度依赖AI的行为趋势,它们可能产生持久的后果。
“这些因素的组合与交汇导致了‘AI引力’——为了变得更高效而将更多思考外包给AI的持续推拉之力,”So说。
他说,当员工过度依赖AI时,存在技能严重退化的风险,这最终可能削弱个人学习模式,并使企业目标偏离正轨。
在MIT Media Lab的一项初步研究中,83%使用ChatGPT撰写文章的参与者在提交后片刻便无法引用自己刚刚提交的任何一句话。“它从电脑屏幕直接转移到了作业上,从未进入他们的大脑,”So说。
更广泛地说,这些影响可能意味着隐性机构知识——人们从经验和多年实践中学习到的内容——面临风险,尤其是在较年轻的员工群体中。“当我们失去动手工作和解决问题的实践——而这些正是建立深厚专业知识的基础——我们自然也会失去与之相关的部分技能,”So说。“这对依赖连续性的组织来说是一个真正的威胁。”
如何保护组织中的认知资本
So主张,企业需要有意识地保护其机构认知资本,采取战略行动提高对这些问题的认识,并有效重新校准AI的使用。
他分享了四条管理AI引力的建议——适用于个人及其团队:
AI Executive Academy MIT Sloan线下课程
So说,AI本身并非真正的危险。危险在于它在用户中助长的心态——这些用户不知不觉地成了技术的“腹语木偶”。
“要在AI时代蓬勃发展,我们必须区分我们使用的工具和我们拥有的能力,”他说。“如果我们离开这些机器就无法思考,我认为我们根本没有在思考。”
“AI + X:AI如何改变管理实践”是由MIT Sloan教学与学习办公室和MIT Open Learning联合推出的教师演讲系列。该系列为MIT Sloan社区提供了一个实用的跨行业视角,展示AI如何塑造真实的管理决策。MIT社区成员可在此获取更多系列资源。
Eric So是MIT Sloan管理学院Sloan杰出全球经济学与行为科学教授、AI Executive Academy联合教务主任、MIT Sloan博士项目教务主席,以及MIT Sloan生成式AI教学与学习中心的首席教师。他当前的研究组合涵盖相互关联的主题,包括人工智能、行为经济学、人机交互和监管政策。他的著作《碰撞:AI对我们做了什么》将于2026年10月出版。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。