
Hinton 警告 AI 或致大规模事故,博主称灾难反而更好
来源标题:Disaster is still better than AI
诺贝尔物理学奖得主 Geoffrey Hinton 近日对《卫报》表示,人类或许从未发展 AI 技术会更好,并警告 AI 可能今年或明年触发大规模事故,如金融或电力系统临时瘫痪。博主 Jason Polak 则撰文称,相比 AI 持续进化却无显性灾难,这类事故反而没那么糟。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Jason Polak 博士 2026年11月4日 分享
因神经网络研究获得诺贝尔物理学奖的 Geoffrey Hinton 最近接受了《卫报》采访。文章写道:
被誉为“AI 教父”之一的 Geoffrey Hinton 表示,人类当初或许压根就不该发展这项技术;他警告说,这项技术可能在今年或明年引发大规模事故,比如金融系统或电力系统暂时瘫痪。
当然,和典型的主流媒体报道一样,这篇文章基本上就是在说“存在风险,科技公司的 CEO 们不负责任,特朗普不负责任,我们需要监管。”
不过,我们还是来探讨一下 Hinton 博士的担忧:AI 可能导致电网崩溃,或引发金融崩盘。虽然这在某些方面确实很糟,但它很可能是所有可能发生的事情中最不可怕的一种。
事实上,在我看来,远比这更糟的是:AI 不断进化、越来越强大,却没有什么明显的坏事发生。因为这样一来,我们就只会被困在一个一切都由 AI 主导的世界里:大量能源被浪费,知识社群被摧毁,最终自然也会被消灭,因为技术会把它挤到一边。
大量能源被浪费在驱动 AI 上,正在伤害我们美丽的生物圈。摄影 © Jason Polak
换句话说,如果我们没有从 AI 身上立刻尝到某种苦头,我们就只会盲目接受它,并彻底对它上瘾。
不幸的是,人类唯一会回应的东西就是:即时的痛苦。人们之所以不愿放弃 AI,唯一的原因就是:它现在已经融入我们的金融体系,融入我们的生活,放弃它带来的不适远比长期后果更即时。但如果 AI 引发一场严重的金融崩溃,那种冲击会压过一切,我们就会放弃它。
这也是我不支持“伦理 AI”或 AI 安全倡议的原因之一。这类倡议只不过是在抵消 AI 相对较小的危险,好让它把爪子更深地伸进人类之中,直到即使威胁巨大也无法将其移除。当然,还因为 AI 的本质就是自动化创造力,所以根本不存在所谓的伦理 AI。
我敢打赌,你有一种强烈的本能去避开灼热的表面,这种本能已经多次保护你免于烫伤。但你是通过读某个写着“不要触摸灼热表面”的标牌才形成这种本能的吗?是因为你母亲告诉你要避开它们吗?不是。你被烫过,所以现在你绝对不会想把手伸进火里。
人类需要被烫一下,而且要被烫得足够厉害,才能明白这项技术有多可怕。
你知道,很多人都在谈论数学正深受 AI 之害。数学界围绕 AI 存在一定的危机和两极分化,这一点我以前写过。但即便在这个领域,我也认为来一场“灾难”会更好。
更准确地说,最好让学术数学被彻底消灭,所有数学经费都被切断。因为早在 AI 出现之前,学术数学就已经把自己变成了一个证明定理的产业,而不是一个用逻辑推理为世界做善事的健康社群。早在 AI 之前,这就是错误的方向,而现在 AI 只是把学术数学腐烂的内核暴露给所有人看。
所以,如果现代数学研究被 AI 彻底摧毁,那么人们也将不得不重建数学,做一些新的、更以人为本的事情。
而这才是关键:重建。你看,我相当确定的是,人类远比我们自以为的更有韧性、更富创造力,尤其是在有需要的时候。而我认为,如果我们真的经历了某种金融“灾难”,事情实际上不会像主流媒体想让我们相信的那么糟。
但每个人都希望把灾难说得越糟越好,因为这符合他们的既得利益。科技公司的 CEO 们希望潜在灾难听起来很糟,因为这会激发人们对其发明的兴趣(无论好坏)。媒体(比如《卫报》)喜欢给潜在灾难加上负面、吓人的色彩,因为这样能带来更多读者、订阅和/或广告浏览。
而精英和富人们不想让你开始思考:我们其实可以轻易从“灾难”中恢复过来。因为如果真是那样,他们的整个帝国就会岌岌可危。他们喜欢制造恐惧,而技术系统本身也会把恐惧当作一种适应机制来制造,因为恐惧本身是有利可图的。
所以,这样说可能违反直觉,但如果 AI 真的搞乱了金融系统,或攻击了我们的食品供应链,那我们很可能反而会过得比 otherwise 好得多。想象一下,普通民众会多么迅速地要求血债血偿,要求关闭数据中心和科技公司。
想想看,没有 AI 的世界会有多美好。
如果你想支持我的工作,可以考虑付费订阅,尽管我的文章将永远免费:
当然,这篇文章没有使用任何 AI 来撰写。完全没有。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。