程序员对AI的建议为何总是过时：作者呼吁认真对待AI

这些年来，我读过许多程序员写的博客文章，给如何在软件工程中整合（或接纳）AI 出主意。而且，这些建议往往带着一个心照不宣的假设：技术会停留在写作时的那个水平。所以如果把他们的观点按时间线铺开，大概是这样： 这听起来像是一个正在输掉战争的国家的宣传：英雄胜利的故事一次比一次更靠近首都。 问题出在他们的失败模式上：他们没有认真对待 AI。类似地，当马克·扎克伯格这样的公司 CEO 上播客大谈超级智能近在眼前、这对就业和经济将是重大利好时，评论界的回应是：他并不真的信 ASI，他不是认真的，他并不真的相信 ASI。他们说对了：“智能爆炸就在下周二，而世界一切照旧”实在难以让人信服。 那么，认真对待 AI 到底意味着什么？Twitter 上的人会说自己是“AGI-pilled”，意思是：“AGI 很快就要来了，而且它将带来颠覆性变化”。成为 AGI-pilled 就意味着你在认真对待 AI。 但我不喜欢这个说法，因为它把“AGI 的时间线很短”和“AGI 的后果将是颠覆性的”混为一谈。后者容易相信，前者却缺乏令人满意的证据基础：人们在图表上画线、外推，然后上播客去谈。所以批评某人不 AGI-pilled（在短时间线意义上），不过是在抱怨他们没有自动接受图表上那些直线构成的梗集群。 博尔赫斯有一个很棒的故事：《特隆、乌克巴尔、奥比斯·特蒂乌斯》。一个秘密团体编写了一部虚构世界的百科全书，而借助贝克莱式观念论的力量，这个异世界开始入侵我们的世界。特隆的物品开始出现，地球的语言被特隆的语言取代。叙述者无奈地总结道：“世界将会变成特隆。” 这个故事的现代版本会是：人们争论自己是否“Tlön-pilled”，或者政府是否“认真对待特隆”。经济学家会辩论到 2030 年 hrönir 挖掘业将占 GDP 的 1.5% 还是 2%，而他们的孩子已经开始说特隆那种没有名词的语言。所以，“认真对待特隆”意味着：“考虑到世界将会变成特隆的可能性”。