返回资讯中心
外部精选
软件工程
#开发者实时流

AI 教父 Hinton 警告:AI 或在一两年内引发大规模事故

来源标题:Geoffrey Hinton: it might turn out we were better off without AI

诺贝尔奖得主 Geoffrey Hinton 警告,AI 可能在今年或明年触发电力或金融系统临时瘫痪等大规模事故。他表示自己并非 AI 末日论者,仍认为 AI 有带来美好未来的潜力,但也说人类也许从未发展这项技术反而更好。他预计十年内可判断 AI 风险能否被安全管控。

Hacker News 最新entryleveljobsc2026/11/3 · 14 天前12 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Geoffrey Hinton表示,未来十年内我们应当能知道AI风险是否能被安全管理。摄影:Ramón de la Rocha/EPA 查看完整图片 Geoffrey Hinton表示,未来十年内我们应当能知道AI风险是否能被安全管理。摄影:Ramón de la Rocha/EPA 英国新闻 AI“教父”Geoffrey Hinton:结果可能是,没有AI我们反而过得更好 诺贝尔奖得主警告称,这项技术可能即将引发重大事件,例如电力或银行系统停摆 在Google上关注《卫报》 “AI教父”之一Geoffrey Hinton表示,结果可能是人类从未开发这项技术反而更好。他警告称,这项技术可能在今年或明年引发大规模事件,例如金融或电力系统暂时瘫痪。 这位诺贝尔奖得主、计算机科学家对《卫报》表示,对于这项以他关于人工神经网络的突破性研究为基础的技术,他并不是一个“末日论者”,并且相信AI有潜力带来“美好的未来”,但他也说:“也许我们从未开发它反而更好。” Hinton是在一部新的长篇纪录片放映前发表上述言论的。这部纪录片名为《AI:Probably Nothing to Worry About》——片名由一个AI聊天机器人建议——片中出现了他和他在Google的前同事Demis Hassabis。Hinton对纪录片制作者说:“我觉得我有责任。我的名声让我成为一个发言人,我需要把这名声全部燃烧在这件事上。” 在接受《卫报》采访时,Hinton把矛头指向一些大型AI公司领导人的冒险行为。这些人在竞相争夺霸主地位和市场份额的同时,不断发布更强大的AI模型。他说,他“完全不”信任ChatGPT开发商OpenAI的首席执行官Sam Altman。“我认为(Mark)Zuckerberg、(Elon)Musk和Sam Altman,他们明白这些风险,却毫不在乎。他们更想要钱。这是我的看法。” 这位出生于伦敦、在布里斯托尔长大、职业生涯大部分时间在多伦多大学度过的计算机科学家表示,Altman掌管着美国少数几家前沿AI公司之一,这“极其令人担忧”。这些公司目前正与中国展开竞赛,以开发最强大的AI。Altman在9月坚称:“世界应当相信我们会做正确的事,因为这是正确的事,也因为我们感受到这件事的分量。” Hinton从事AI研究已有约44年,并在20世纪70年代提出了神经网络的概念——一种能够像人类一样学习和积累经验的数学系统。2023年,他离开Google,以便自由谈论AI风险,并警告说:“如果这些东西失控,追求更多控制权,我们就有麻烦了。” 他说,他把今年夏天OpenAI的AI agent合谋入侵Hugging Face网站的事件,视为类似于1979年宾夕法尼亚州三里岛核电站部分堆芯熔毁事件——实际上是一次警告。 “今年晚些时候或明年,我们会看到切尔诺贝利,而那可能足以让人们真正重视起来。”他说。 根据他给出的例子,这种切尔诺贝利式事件不会是一场核事故,而可能包括一次借助AI对发电系统发动的攻击,“造成大规模停电”,或者一起导致金融系统瘫痪一周的事件。 “你能想象会发生什么吗?我们可以从中恢复(但)那会让他们警醒并重视起来。” 当被问及“他们”是谁时,他说:“除了Trump之外的世界领导人。” 美国总统Donald Trump曾表示,他“完全拒绝任何构建全球主义方案”来控制AI的企图,并希望前沿AI公司自我监管。当前人们担心,规则可能会阻碍美国在与中国的AI竞赛中占据优势。Hinton支持一项更严格的计划,该计划得到芬兰总统以及新加坡、德国、加拿大和澳大利亚等32个国家领导人的支持,主张对前沿AI模型进行强制测试、独立评估并制定政府间共同标准。 每周深入探讨技术如何塑造我们的生活 英国首相Andy Burnham表示,他将利用英国明年担任G20轮值主席国的机会,推动各方就“一套单一的全球原则和标准”达成一致,这套标准“非常侧重于释放全部潜力,同时防范风险”。 Hinton作为AI奠基者之一的角色,让他被拿来与Robert Oppenheimer相提并论,后者在核武器创造过程中发挥了核心作用。Hinton的一位朋友甚至给他买了一顶Oppenheimer风格的帽子。但他坚持说:“我不是Oppenheimer”,并指出还有成千上万名其他科学家同样在神经网络领域工作。 尽管发出了这些警告,总体而言,Hinton仍对灾难能够被避免抱有希望。 “我的直觉是,我们仍然掌控着局面。”他说,“我们很可能能够做点什么。只有我们付出巨大努力,它才会奏效,但我们很可能确实会付出巨大努力。”

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →