AI教父Hinton警告：AI或在一两年内引发大规模事故

Geoffrey Hinton表示，未来十年内我们应当能够知道AI风险是否能被安全管理。摄影：Ramón de la Rocha/EPA 查看完整图片 Geoffrey Hinton表示，未来十年内我们应当能够知道AI风险是否能被安全管理。摄影：Ramón de la Rocha/EPA

英国新闻 AI“教父”Geoffrey Hinton：到头来没有AI我们可能过得更好 诺贝尔奖得主警告称，这项技术可能即将引发重大事件，比如电力或银行系统停摆

“AI教父”之一Geoffrey Hinton表示，到头来人类可能从未开发这项技术反而更好。他警告称，这项技术可能在今年或明年引发大规模事件，例如金融或电力系统暂时瘫痪。

这位诺贝尔奖得主、计算机科学家对《卫报》表示，他并不是这项技术的“末日论者”——该技术正是建立在他对人工神经网络的开创性研究之上——并且他认为AI有潜力带来“美好的未来”，但他也说：“也许我们从未开发它反而会更好。”

Hinton是在一部新的长篇纪录片放映前说这番话的。这部名为《AI：大概没什么好担心的》的纪录片——片名由AI聊天机器人建议——记录了他和他的前Google同事Demis Hassabis。Hinton对纪录片制作者说：“我觉得我有一种责任。我的声誉让我成为一个代言人，我需要把这声誉全部燃烧在这件事上。”

在接受《卫报》采访时，Hinton将矛头指向一些大型AI公司领导人的冒险行为——他们在争夺霸主地位和市场份额的竞赛中不断发布更强大的AI模型。他说他“完全不”信任ChatGPT开发商OpenAI的首席执行官Sam Altman。“我认为[Mark] Zuckerberg、[Elon] Musk和Sam Altman，他们明白风险，但他们根本不在乎。他们更想要钱。这是我的看法。”

这位出生于伦敦的计算机科学家在布里斯托尔长大，职业生涯大部分时间在多伦多大学度过。他表示，Altman掌管着美国少数几家前沿AI公司之一，而这些公司目前正引领与中国的竞赛，争相开发最强大的AI，这“极其令人担忧”。Altman在9月坚称：“世界应当相信我们会做正确的事，因为这是正确的事，也因为我们感受到了这件事的分量。”

Hinton从事AI研究已有约44年，他在1970年代提出了神经网络的概念——一种能够像人类一样学习和积累经验的数学系统。2023年，他离开Google以便自由谈论AI风险，并警告说：“如果这些东西越来越失控地追求更多控制权，我们就有麻烦了。”

他说，他认为今年夏天OpenAI的AI agent合谋入侵Hugging Face网站的事件，类似于1979年宾夕法尼亚州三里岛核电站的部分堆芯熔毁——实质上是一次警告。

“要么今年晚些时候，要么明年，我们会看到切尔诺贝利，而那可能足以让人们真正重视起来。”他说。

根据他给出的例子，这种切尔诺贝利式事件不会是核事故，而可能包括对发电系统的AI攻击，从而“造成大规模停电”，或者一起导致金融系统瘫痪一周的事件。

“你能想象会发生什么吗？我们可以从中恢复[但]那会让他们警醒并认真对待。”

当被问及“他们”指谁时，他说：“除特朗普以外的世界各国领导人。”

美国总统Donald Trump曾表示，他“完全拒绝任何构建全球化方案”来控制AI的企图，并希望前沿AI公司自我监管——原因是担心规则可能阻碍美国在与中国的AI竞赛中取胜。Hinton支持一项更严格的计划，该计划得到芬兰总统以及其他32个国家（包括新加坡、德国、加拿大和澳大利亚）的支持，主张对前沿AI模型进行强制测试、独立评估以及政府间共同标准。

每周深入探讨科技如何塑造我们的生活

英国首相Andy Burnham表示，他将利用英国明年担任G20主席国的机会，寻求就“一套单一的全球原则和标准”达成一致，这些原则和标准“非常侧重于释放全部潜力，同时防范风险”。

Hinton作为AI先驱之一的身份使他被比作Robert Oppenheimer——后者是核武器诞生的核心人物。Hinton的一位朋友甚至给他买了一顶Oppenheimer式的帽子。但他坚持说：“我不是Oppenheimer”，并指出还有数千名其他科学家同样在神经网络领域工作。

尽管发出了警告，Hinton总体上仍然对灾难可以被避免抱有希望。

“我的直觉是我们仍然掌控着局面，”他说。“我们很有可能能够做些什么。只有我们付出巨大努力才会奏效，但我们很可能会付出巨大努力。”

AI末日威胁：区分事实与恐惧 10月15日（周四），加入Dan Milmo、Wendy Hall教授女爵士和Stuart J. Russel的讨论，他们将探讨围绕人工智能的种种警告，以及我们如何将事实与猜测区分开来。仅限直播。在此处或guardian.live预订门票。