
Hinton 警告 AI 或于今明两年引发大规模事故
来源标题:Disaster is still better than AI
诺贝尔物理学奖得主 Geoffrey Hinton 表示,人类或许从未发展 AI 技术会更好,并警告 AI 可能在今年或明年触发大规模事件,例如金融或电力系统临时瘫痪。他认为这类事故虽糟,却远不如 AI 持续变强而一切看似正常的情形可怕。
以下正文由 AI 翻译自 Hacker News(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Jason Polak 博士 2026年11月4日 分享
因神经网络研究获得诺贝尔物理学奖的 Geoffrey Hinton 最近接受了《卫报》采访。文章写道:
“AI 教父”之一 Geoffrey Hinton 表示,人类当初如果从未开发这项技术,结果可能反而更好。他警告说,这项技术可能在今年或明年引发大规模事件,例如金融系统或电力系统暂时瘫痪。
当然,跟典型的主流媒体报道一样,这篇文章基本上就是在说“有风险,科技公司 CEO 不负责任,特朗普不负责任,我们需要监管。”
不过无论如何,让我们来探讨一下 Hinton 博士的担忧:AI 可能导致电网崩溃或引发金融崩盘。虽然这在某些方面确实糟糕,但它很可能是所有可能发生的事情中最不 horrible 的一种。
事实上,在我看来远比这更糟的是:AI 持续进化、越来越强大,却没有什么明显糟糕的事情发生。因为那样的话,我们只会被困在一个一切都被 AI 主导的世界里,大量能源被浪费,知识共同体被摧毁,最终自然被消灭,因为技术把它挤到了一边。
大量能源被浪费在驱动 AI 上,正在伤害我们美丽的生物圈。照片 © Jason Polak
换句话说,如果我们没有从 AI 身上感受到某种即时的痛苦,我们就只会盲目接受它,彻底对它上瘾。
不幸的是,人类只会对一样东西做出反应:即时的痛苦。这正是人们不愿放弃 AI 的唯一原因:因为它现在已经融入我们的金融体系、融入我们的生活,放弃它带来的不适比长期后果来得更直接。但如果 AI 引发了严重的金融崩溃,那将压倒一切,我们就会放弃它。
这也是我不支持“伦理 AI”或 AI 安全倡议的原因之一。事实上,这类倡议只是抵消了 AI 带来的相对较小的危险,好让它把爪子更深地伸进人类体内,直到即使威胁巨大也无法移除。更何况,由于 AI 的本质就是自动化创造力,所谓“伦理 AI”根本不存在。
我敢打赌你有一种强烈的本能去避开灼热的表面,这种本能已经无数次保护你免于烫伤。但你是通过读某个写着“不要触摸灼热表面”的告示才形成这种本能的吗?是因为你妈妈告诉你要远离它们吗?不是。你被烫过,现在你绝对不会想把手伸进火里。
人类需要被烫伤,而且要被烫得足够严重,才能明白这项技术有多可怕。
你知道,很多人都在谈论数学如何受到 AI 的冲击。数学界围绕 AI 存在一定的危机和两极分化,我以前也写过这方面的话题。但即使在这个领域,我也认为来一场“灾难”会更好。
更准确地说,如果学术数学被彻底摧毁、所有数学经费被切断,那反而更好。因为早在 AI 出现之前,学术数学就已经把自己变成了一个证明定理的产业,而不是一个用逻辑推理为世界做贡献的健康共同体。这在 AI 出现之前就是错误的方向,而现在 AI 只是把学术数学腐烂的内核暴露在所有人面前。
所以,如果现代数学研究被 AI 彻底摧毁,那么人们也将不得不重建数学,做某种新的、更以人为本的事情。
而这才是关键:重建。你看,我相当确定的是,人类远比我们自以为的更有韧性、更聪明,尤其是在有需要的时候。而我认为,如果我们真的经历某种金融“灾难”,事情实际上不会像主流媒体想让我们相信的那么糟。
但每个人都在灾难被说得越糟越好的事情上有既得利益。科技公司 CEO 喜欢让潜在的灾难听起来很糟,因为这能激发人们对其发明的兴趣(无论好坏)。媒体(比如《卫报》)喜欢给潜在的灾难加上负面、吓人的色彩,因为这样能吸引更多人阅读、订阅和/或观看广告。
而精英和富人不希望你开始认为我们可以轻松从“灾难”中恢复。因为如果那是真的,他们整个帝国就会面临风险。他们喜欢制造恐惧,而技术系统本身也把恐惧当作一种适应机制来制造,因为恐惧本身是有利可图的。
所以,说这话有点反直觉,但如果 AI 真的搞乱了金融系统或攻击了我们的食品供应链,我们很可能反而会过得比 otherwise 好得多。想想普通民众会多快地要求血债血偿、要求关闭数据中心和科技公司。
想想没有 AI 的世界会美好多少。
如果你想支持我的工作,可以考虑付费订阅,尽管我的文章将永远免费:
当然,这篇文章没有使用任何 AI 来写作。完全没有。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。