Anthropic工程师警告AI编程中的「认知投降」风险

Addy Osmani正在认真思考「思考」这件事。Osmani在Anthropic的Claude Code团队工作。公司全力投入agentic coding——毕竟他参与打造自家的AI编程产品——并减少了人工编写代码的比例。「如今我的日常工作大量通过agent完成，已经越来越少有事情逼着我进行批判性思考了，」Osmani周二在X上的一篇文章中写道。过去一年里，工程师们也表达过类似的担忧：AI让他们更像操作员，而不是构建者。一位OpenAI前员工告诉Business Insider，AI编程既繁琐又无聊。Osmani并不希望工程师停止使用AI，而是希望他们学会更深入地思考。Osmani阐述了自己的观点：「你必须把批判性思考嵌入日常，因为默认情况下没有任何东西会替你做这件事。」他写道，使用AI会导致三种思维退化。第一种是「认知卸载」（cognitive offloading）：把任务交给AI，但仍保留对产出的主导权。「我整天都在这么做，」他写道。「你也应该这样。」第二种是「转交」（deferral），即AI的输出成为你的新输入。第三种是「认知投降」（cognitive surrender），这个词由沃顿商学院的两位研究者提出。指的是对AI输出完全信任，Osmani称这种做法是懒惰的。过于频繁地投降会造成「认知债务」。目前尚不清楚AI是在让我们变笨，还是在改变我们思考的方式。Business Insider采访的研究人员看到了一些不好的迹象，但提醒不要急于下结论。至于Osmani，他经常看到这种批判性思考的让渡。他写道，这并非最糟糕的事，关键只在于任务的重要性。「在风险较低的地方，尽管完全交给AI，」他写道。「当你无法解释一个问题的答案——哪怕是通过你的agent——你就已经放弃了主导权。」Osmani分享了一份他用来问自己的问题清单，其中包括：「我在提问之前是否先形成了假设？」以及「我有哪些能力已经不再练习了？」再次强调，他并不是要求工程师对每件事都深入思考，甚至不是对大多数事情如此。在回答一个区分「帮助」与「卸载」的问题时，Osmani写道：「两者都可以，只要你知道自己在做哪一种。」Osmani还写道，工程师应当建立循环机制，确保AI写的代码确实能正常工作。他称之为「把验证变成习惯」，并建议工程师询问AI agent它能验证什么（以及不能验证什么）。技能往往会随时间退化。在手机应用接管导航之后，我们中有多少人还能用纸质地图找路？在电话号码可以随手存进通讯录之后，我们中有多少人还记得朋友的号码？编程也不例外。「你不再练习的技能终将消失，而且消失的速度可能比你想象的更快，」Osmani写道。「继续做那些你不愿放手的技能。」