返回资讯中心
外部精选
软件工程
#开发者实时流

Hinton 警告 AI 或致大规模事故,博主称灾难反而更好

来源标题:Disaster is still better than AI

诺贝尔物理学奖得主 Geoffrey Hinton 近日对《卫报》表示,人类或许从未发展 AI 技术会更好,并警告 AI 可能今年或明年触发大规模事故,如金融或电力系统临时瘫痪。博主 Jason Polak 则撰文称,相比 AI 持续进化却无显性灾难,这类事故反而没那么糟。

Hacker News 最新bemtevi2026/11/4 · 13 天前13 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Jason Polak 博士 2026年11月4日 分享

因神经网络研究获得诺贝尔物理学奖的 Geoffrey Hinton 最近接受了《卫报》采访。文章写道:

被誉为“AI 教父”之一的 Geoffrey Hinton 表示,人类当初或许压根就不该发展这项技术;他警告说,这项技术可能在今年或明年引发大规模事故,比如金融系统或电力系统暂时瘫痪。

当然,和典型的主流媒体报道一样,这篇文章基本上就是在说“存在风险,科技公司的 CEO 们不负责任,特朗普不负责任,我们需要监管。”

不过,我们还是来探讨一下 Hinton 博士的担忧:AI 可能导致电网崩溃,或引发金融崩盘。虽然这在某些方面确实很糟,但它很可能是所有可能发生的事情中最不可怕的一种。

事实上,在我看来,远比这更糟的是:AI 不断进化、越来越强大,却没有什么明显的坏事发生。因为这样一来,我们就只会被困在一个一切都由 AI 主导的世界里:大量能源被浪费,知识社群被摧毁,最终自然也会被消灭,因为技术会把它挤到一边。

大量能源被浪费在驱动 AI 上,正在伤害我们美丽的生物圈。摄影 © Jason Polak

换句话说,如果我们没有从 AI 身上立刻尝到某种苦头,我们就只会盲目接受它,并彻底对它上瘾。

不幸的是,人类唯一会回应的东西就是:即时的痛苦。人们之所以不愿放弃 AI,唯一的原因就是:它现在已经融入我们的金融体系,融入我们的生活,放弃它带来的不适远比长期后果更即时。但如果 AI 引发一场严重的金融崩溃,那种冲击会压过一切,我们就会放弃它。

这也是我不支持“伦理 AI”或 AI 安全倡议的原因之一。这类倡议只不过是在抵消 AI 相对较小的危险,好让它把爪子更深地伸进人类之中,直到即使威胁巨大也无法将其移除。当然,还因为 AI 的本质就是自动化创造力,所以根本不存在所谓的伦理 AI。

我敢打赌,你有一种强烈的本能去避开灼热的表面,这种本能已经多次保护你免于烫伤。但你是通过读某个写着“不要触摸灼热表面”的标牌才形成这种本能的吗?是因为你母亲告诉你要避开它们吗?不是。你被烫过,所以现在你绝对不会想把手伸进火里。

人类需要被烫一下,而且要被烫得足够厉害,才能明白这项技术有多可怕。

你知道,很多人都在谈论数学正深受 AI 之害。数学界围绕 AI 存在一定的危机和两极分化,这一点我以前写过。但即便在这个领域,我也认为来一场“灾难”会更好。

更准确地说,最好让学术数学被彻底消灭,所有数学经费都被切断。因为早在 AI 出现之前,学术数学就已经把自己变成了一个证明定理的产业,而不是一个用逻辑推理为世界做善事的健康社群。早在 AI 之前,这就是错误的方向,而现在 AI 只是把学术数学腐烂的内核暴露给所有人看。

所以,如果现代数学研究被 AI 彻底摧毁,那么人们也将不得不重建数学,做一些新的、更以人为本的事情。

而这才是关键:重建。你看,我相当确定的是,人类远比我们自以为的更有韧性、更富创造力,尤其是在有需要的时候。而我认为,如果我们真的经历了某种金融“灾难”,事情实际上不会像主流媒体想让我们相信的那么糟。

但每个人都希望把灾难说得越糟越好,因为这符合他们的既得利益。科技公司的 CEO 们希望潜在灾难听起来很糟,因为这会激发人们对其发明的兴趣(无论好坏)。媒体(比如《卫报》)喜欢给潜在灾难加上负面、吓人的色彩,因为这样能带来更多读者、订阅和/或广告浏览。

而精英和富人们不想让你开始思考:我们其实可以轻易从“灾难”中恢复过来。因为如果真是那样,他们的整个帝国就会岌岌可危。他们喜欢制造恐惧,而技术系统本身也会把恐惧当作一种适应机制来制造,因为恐惧本身是有利可图的。

所以,这样说可能违反直觉,但如果 AI 真的搞乱了金融系统,或攻击了我们的食品供应链,那我们很可能反而会过得比 otherwise 好得多。想象一下,普通民众会多么迅速地要求血债血偿,要求关闭数据中心和科技公司。

想想看,没有 AI 的世界会有多美好。

如果你想支持我的工作,可以考虑付费订阅,尽管我的文章将永远免费:

当然,这篇文章没有使用任何 AI 来撰写。完全没有。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →