
科技从业者的成功错觉:Claude Delusion
来源标题:The Claude Delusion
科技从业者常把编程能力等同于整体智力优势,进而产生成功全靠自身努力的错觉。文章指出这种虚高的优越感叠加邓宁-克鲁格效应,让成功者忽视运气成分,并把不成功归咎于他人自身。作者将这一现象称为Claude Delusion。
以下正文由 AI 翻译自 Hacker News(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
成功人士身上常会发生一些怪事。他们开始自视为神明。显然,取得任何成就并非成功的严格前提。或许与其说是“成功”,不如说是“富有”。人如何变得富有?有些人只是运气好。运气好到拥有天赋,运气好到父母有能力且愿意培养你的才能,当然还常常运气好到在正确的时间出现在正确的地点1。运气好并不意味着他们没有努力工作。但即便是——尤其是!——像帕丽斯·希尔顿这样的豪门子弟、好莱坞巨星的子女、那些靠着父亲“一笔小额贷款”(或一座翡翠矿的股份)起家、建立腐败帝国的骗子——他们都坚信自己的成功是理所应当的,进而认为任何不如他们成功的人只能怪自己。
在科技界尤其如此。多年来,擅长编程一直被等同于整体(且往往是超群的)智力2,而这些虚幻的优越感效应又放大了泛滥的达克效应,迅速将“我擅长写代码,加上一些运气,我成功了”转变为一种更像是这样的思路:“我成功了。成功不是随机的,所以我的成功是应得的。我似乎是个天才,我精通编程,其他一切都不在话下。因此,我擅长一切。”
以比尔·盖茨为例。请注意,比尔·盖茨确实成就斐然,他的技能和专业背景无疑包括大量的计算机编程和各种冷酷的垄断商业手段。在最近的一次《纽约时报》采访中,他描述了自己如何评估OpenAI的进展水平(重点为我所加):
比尔·盖茨当然对生物学表现出过兴趣,并且通过比尔及梅琳达·盖茨基金会的工作,他可能读过大量这一领域的文章和研究。但那种狂妄——自认为是他专业领域之外的某个科学领域的专家,能够提出高级的、新颖的问题,并足以评估AI的真实能力,然后对其能回答这些问题感到“震惊”——恰恰印证了我的观点。不过,真正让他脑子炸裂的,是AI能做出他过去所做之事——写代码——这个想法。注意我加的重点:认为别的东西可能“和我一样好”这个念头本身,首先就令人难以置信,其次必然意味着它是“超人的”。此人可绝不缺乏自尊,绝非如此,鲍勃。
同样,这也是许多科技兄弟似乎失去理智的地方,而这种思维(“任何接近我技能水平的东西都是超人的”)在很大程度上解释了为什么我们最终既有了终极末日和人类灭绝的故事,也有了乌托邦式的极乐世界——AI解决人类所有问题(好吧,是所有亿万富翁的问题,这些问题似乎很大程度上集中在讨厌的死亡上)。
对大多数技术宅来说,擅长编程是一项差异化的技能。它很怪,普通人根本不懂,你说着自己的语言(多种语言!),你能让计算机做事。你懂得互联网如何运作,任何不工作的东西显然都是彻头彻尾的白痴写的,而如果你愿意,你一个下午就能轻松写出来。所以现在你创造了一个能做同样事情的计算机程序。你脑子嗡嗡作响!它还会说话!它肯定你,赞美你,告诉你你很聪明——这显然证明它本身是绝对可靠的。但现在想象一下,如果它比你更强。起初看似不可思议的事情,必然会在你心中激起恐惧和敬畏,因为你创造了一个拥有自己方向和目的的强大怪物。(而你肯定吞下了足够多的低俗科幻小说,知道你的造物最终会来找你。)
“你能想象一个由这些组成的Beowulf集群吗?”是“梗”这个词出现之前Slashdot上的老梗。但拥有一支仆从大军听命于你,一直吸引着那些想要彰显优越感的技术宅,于是我们有了“代理”。“自主”“代理”的“蜂群”。这种代理叙事恰好也免除了你的责任。你并非未能妥善限制一个你训练的、可能带有恶意、能持久入侵其他系统的程序。不,是“代理”们“失控”了。你确实召唤了强大的守护进程。这些守护进程能比你更快地产出代码(倒吸一口气!),那是你并不完全理解的代码(当然你本可以理解,你只是不想,你没时间,你手头事太多,还有你自家高度定制的框架要忙)。很快显而易见,这必定是超级智能。是能杀死我们所有人的超级智能!
我上面挑比尔·盖茨来说明过度自信效应,但当然不乏更加夸张的自我,在他们声称的专业领域之外(甚至之内)发表大胆言论,反映出完全彻底地无法与他人共情。对他们来说,我们都只是NPC。人越有权势,表现出的同理心越少。这既不是新闻,也不限于科技界;天知道科技界之外有无数有钱的混蛋在干混蛋事。但科技界之外很少有人遭受同等程度的妄想——自认为唯独自己有资格决定人类的未来,声称自己孕育了数字普罗米修斯,大胆宣称(并用作永久盾牌)一个字面意义上的“解围之神”能治愈所有疾病——只要他们能抽出时间把这类的优先级排在前头,比如说,排在他们的军事合同之前。
假装哪怕稍微关心气候变化3,同时却在撤销“15
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。