返回资讯中心
外部精选
软件工程
#开发者实时流

Bryan Caplan:AI悲观者与乐观者迄今难分高下

来源标题:So Far, AI Pessimism Is Observationally Equivalent to AI Optimism

Bryan Caplan 认为,AI 悲观者和乐观者在 AI 尚显笨拙时都预见了其快速进步,因此仅凭预测记录无法区分两者。他列举双方代表人物及言论,称 AGI 按任何合理定义已在几年前到来,并主张应同等放大两类群体的声音。

Hacker News 最新JulianPaul2026/11/14 · 3 天前18 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Bryan Caplan 2026年11月12日 56 22 13 分享

AI悲观主义者最有力的辩论武器是:与普通人不同,他们预见了未来。当年AI还笨得令人尴尬时,AI悲观主义者就警告说它会迅速进步。而它确实迅速进步了。以下是主要AI悲观主义者名单、他们说了什么以及何时说的: AI每天都让我难以置信,但眼见为实。AI如今比我原本预计2100年才能达到的水平还要好。事实上,AI如今比我所曾期望的还要好。我们不必争论AGI何时到来。按任何合理的定义,AGI几年前就已经到来了。 鉴于悲观主义者的先见之明和我承认的自己缺乏先见之明,有充分理由认为他们在AI问题上比本人更可靠。我坦然承认这一点。 但AI悲观主义者加上Bryan Caplan并不是世界上唯一的人。最值得注意的是,AI乐观主义者长期以来一直存在。当年AI还笨得令人尴尬时,他们也预见了未来。以下是这些相对被忽视的先知们的对应名单。 结论:有两个群体凭借其预测记录赢得了被放大的权利:说AI将会很糟糕的人,和说AI将会很棒的人。关键在于,用科学哲学的术语来说,这两个假说目前仍然是观察等价的——与现有数据同样一致。 AI悲观主义者无疑会试图反驳这种观察等价性的说法,他们会指向Hugging Face之类的震惊事件。但任何合格的AI乐观主义者,以及任何熟悉行为经济学的人,都会嗤之以鼻。我们应该预料到对社会有益的技术会制造无尽的媒体丑闻,而审慎的回应是 corrective tweaks 加上不以为然的一耸肩。想想这份早期技术、持续问题和臭名昭著事件的清单。 Condoleezza Rice有句名言:“我们不希望蘑菇云成为确凿证据。”但病态的老生常谈并不能指导审慎行动。即使负面影响糟糕十倍,这些技术中的每一项都会有巨大的净收益。 “总体很棒的技术总有些负面影响”这种辩护难道不会让AI乐观主义变得不可证伪吗?当然不会。AI悲观主义者需要的是彻底灾难性的事件发生,而不仅仅是劲爆丑闻和道德恐慌。想想看:每年有超过一百万人死于车祸,却没有人谈论要给汽车“暂停”。鉴于AI可能的巨大好处,我们应该愿意年复一年地容忍类似程度的附带损害。 事实上,我们应该时刻铭记,奇妙的新技术会被数字盲扼杀在摇篮里。想想对核事故的愚蠢过度反应对核电造成了什么。人类发现了可想象的最便宜、最安全、最清洁的能源,然后因为几起震惊的轶事就基本上禁掉了它。 教训是:尽管AI悲观主义者声称事实证明了他们是对的,但这几乎完全是一场关于先验的争论。或者更具体地说,是一场关于正确参考类别的争论。Scott Alexander生动地称之为“参考类别网球”: “参考类别网球”是一个古老的理性主义者习语,指人们来回抛掷类比。 “AI会很慢,因为它是像农业或工业革命那样的经济转型,而那些是缓慢的!” “不,AI会很快,因为它是像黑猩猩→人类那样的进化步骤,而那是很快的!” “不,AI会很慢,因为它是像计算机一样的发明,而计算机是零敲碎打发明的,需要几十年的创新才有用。” “不,AI会很快,因为它是像核弹一样的发明,而核弹在一天之内就从不可能变成了毁灭城市。” “不,AI会很慢,因为它会被壳状金属电脑外壳包围,这使它像乌龟,而乌龟很慢。” “不,AI会很快,因为它危险而强大,像老虎,而老虎很快!” 将事物与其他事物比较是一种久经考验的推测方式。但有太多其他事物可以比较,以至于你可以得到任何你想要的结果。这就是“参考类别网球”一词本想指出的失败模式。 Tetlock在《超级预测》中的主要发现之一是,优秀的预测者从基础比率开始。但你怎么找到正确的基础比率来使用?“参考类别”基本上与“基础比率”是同一回事,而Scott让它听起来几乎毫无希望。从逻辑上讲,他是对的。例如,如果你想预测我的行为,你可以使用50多岁美国自由意志主义经济学家的基础比率。或者你可以使用“刚在Costco买了眼镜的家伙”的基础比率。怎么有人能知道哪个基础比率更好? 但正如孔子从未说过的那句格言:“说做不到的人不应该打断正在做的人。”超级预测者不只是使用基础比率;他们经常选择恰当的基础比率,从而成功预测。所以真正的问题不是“他们能做到吗?”而是“他们是怎么做到的?” 而答案,尽管遭到许多嘲笑,是:运用常识。*当人们听到AI悲观主义者预测人类即将灭绝时,有常识的人会立刻直觉到:“这属于‘人类即将灭绝’这个参考类别。过去所有预测人类灭绝的人都完全错了。我就从那个基础比率开始。”是的,还有其他逻辑上允许的反应,比如:“这属于‘关于计算机力量上升的预测’这个参考类别。”但有常识的人只会对此说“呸”。第一个基础比率是清醒的,第二个是愚蠢的。如果你看不出这一点,我不知道该怎么改变你的想法。但我敢打赌你错了。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →