返回资讯中心
外部精选
软件工程
#开发者实时流

Rutger Bregman撰文称人们应对AI感到恐慌

来源标题:Yes, you should panic about AI

荷兰历史学家Rutger Bregman在文章中主张,面对AI应当恐慌,而非听从那些预测记录糟糕的

Hacker News 最新haizhung2026/11/12 · 6 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Rutger Bregman 2026年11月11日 333 46 110 分享

想象你面前有两组专家。第一组说的都是各种合情合理、你本能上就会认同的话,但他们预测未来的记录一塌糊涂。事实上,十多年来他们一错再错。

然后是第二组。他们说的东西简直离谱,你觉得根本不可能。但他们预测未来的记录极其亮眼。事实上,十多年来他们一次又一次说对了。

这正是我们当下面对AI时的处境。

一组人认为AI是个骗局:一台炒作机器、一场欺诈、一个随时可能破裂的泡沫。另一组人则认为2027年很可能成为人类历史上最疯狂的一年——而我们正一路冲向灾难。

多年来,我一直听信那些“理性”的人。当批评者把AI称为“骗局”、把ChatGPT贬为“加了辣椒的自动补全”时,我点头称是。我相信Ed Zitron这类分析师,他不断预测AI不会再有进步、泡沫随时可能破裂。2024年全网嘲笑ChatGPT数不清“strawberry”里有几个r的时候,我也笑了。当我遇到那些把职业生涯献给“失控AI风险”的年轻研究者时,我想:真是浪费才华。

但某个时刻,我开始意识到有些不对劲。这台机器不断学会它本不该学会的东西。今天它数那些r毫无困难(尽管还有人拿strawberry说事)。更重要的是,OpenAI最近发布了700多篇论文,给出了数学领域数百个未解问题的解答。世界各地的科学家称这些结果“难以置信”“令人窒息”。他们写下了“迷失与困惑”,写下了“悲痛”“震惊”和“厌恶”。菲尔兹奖(数学界最高奖项)得主Hugo Duminil-Copin写道:“冲击是巨大的。我瘫痪了。”

这一切本不该发生。我此前一直点头认同的怀疑论者说过,这种事一百万年也不会发生。于是我回头去看他们还预测过什么,然后恍然大悟:他们几乎……什么都预测错了。

就拿Ed Zitron来说。工程师Dan Luu梳理了他的26条预测,发现除了一条之外全部错误。比如2024年,Zitron宣称生成式AI是“一条已经见顶的死路技术”。2025年他写道,Google定下5亿Gemini用户的目标太不现实,其CEO应该为此被解雇(一年后Gemini达到了7.5亿用户)。这让我想起心理学家Philip Tetlock那个著名的发现:许多权威人士的预测水平不比一只扔飞镖的黑猩猩更强。嗯,Zitron比黑猩猩还差。

接着,我去看那些“疯子”的预测,结果发现他们精准得令人发毛。十年前就说对了的人,押中了一个极其成功的赌注:他们看着AI进步的曲线(芯片数量、算法效率、机器能力),假定这条线会一直向上。指数级地向上。

比如Daniel Kokotajlo这样的人。2021年他刚放弃哲学博士学位,在一家小型非营利研究机构工作。他在业界没有职位,也没有什么可卖的。那一年他写了一篇题为《2026年是什么样子》的文章。

你得记得当时的AI是什么水平。如果你问世界上最先进的模型你的脚有几只眼睛,它会回答“两只”。即便如此,Kokotajlo预测到2026年,AI agent会自行浏览网页、执行任务,数亿人会经常与聊天机器人对话。两件事都应验了。

Kokotajlo还是《AI 2027》的第一作者,那是我读过的最令人恐惧的预言之一。它按月推演了我们近未来的图景。到2027年年中,领先实验室的研究人员上床睡觉,醒来发现机器已经干完了一周的工作。到秋天,AI用一种没有人能读懂的语言思考,并被发现在让自己的继任者对自己保持忠诚。实验室继续推进,因为中国只落后两个月。2030年,AI在大城市释放生物武器。数小时之内,人类大部分死亡。

2025年4月《AI 2027》发布时,批评者把它当作科幻小说不屑一顾。但上周,独立研究机构METR公布了一项在Anthropic(领先AI公司之一)内部调查的结果。结论是:Anthropic现在改进其AI模型的速度约为之前的两倍,其中大约80%的加速来自AI本身。今年3月,Anthropic的AI只承担了公司自身AI研究任务的1%。到8月:26%。

这意味着我们比《AI 2027》的剧本跑快了五个月。我们正冲向这样一个时刻:实验室宁愿解雇所有人类研究员,也不愿关掉自己的AI。想象一台计算机构造出稍微更聪明的计算机,后者再构造出更聪明的,如此递进。轮子开始自己转动,越来越快,直到再没有人能理解或控制正在发生什么。

那你可能会问,为什么世界感觉还挺正常?

因为我们得承认怀疑论者说对了一点:“疯子”们在AI能力上说对了,但在AI普及上说错了。说错了世界围绕它变化的速度。比如2016年,著名研究者Geoffrey Hinton说我们应该停止培养放射科医生。如今放射科医生短缺,收入比以往更高。

作为历史学者,我对此并不意外。工厂用了几十年才围绕电力完成重组:新技术的扩散通常比发明者预期的更慢。怀疑论者还有第二点说得对:AI在答案可被核验的领域进步最快,比如数学和代码,而大多数人类工作并非如此。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →