你准备好迎接超级智能了吗?
来源标题:Are You Ready for Superintelligence?
原文标题提出「你准备好迎接超级智能了吗?」这一问题,但正文内容为CSS样式代码片段,未包含任何关于超级智能的实质信息、数据或事件细节。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
几周以来,我一直想为这篇关于 AI 基准测试的文章找一个好的切入点,但始终没能如愿,主要原因是我观察到近期前沿模型发布后的进步速度实在快得离谱,以至于我无法以一种连贯的方式来组织我的写作——要跟上节奏真的很难,每两个小时就有新东西出现。
我们知道最近的 AI 模型确实非常出色。我们经常被告知这一点,甚至几乎每周都能亲身体验到,因为更新或略有提升的模型不断发布。也许是你特意去测试某个前沿模型能否完成一项以前需要花一整天工作时间才能搞定的复杂任务。也许是你读了一篇关于某个新前沿模型发布的博客文章,把各个模型的基准分数并排比较。也许你只是在刷 X,看到有人发帖告诉你这个新模型改变了一切。
不管你是怎么得知这些的,如果你正在读这篇文章,那你很可能在过去几个月里——尤其是最近几周——至少对某个 AI 模型的表现感到过惊喜。
几乎不可否认的是,现有模型(以及那些我们还无法深入了解的内部模型)已经相当不错了,而且对越来越多的人来说,日常生活中确实相当有用。但信不信由你,这是一个相对较新的现象——并非一直以来都如此显而易见地表明最新的 AI 模型适用于白领工作,甚至被广大人群认为好用。
确实,超级智能的概念早已存在,并且已经存在了相当长一段时间,Nick Bostrom 等人将其推广开来——我并不是说 AI 研究者和写作者们对 AGI 的信仰不够坚定,而是说即便是一年前热爱 AI 的你最亲密的朋友,可能也没有在心理上准备好迎接过去 365 天里经历的发展速度——我知道我就没有。
我们正生活在真正前所未有的时代,这要求我们修正对当下可能性的认知,并彻底重写对极近未来可能发生之事的预期。我读过足够多的科幻小说,知道我们可以怀抱对美好未来的期望,却仍然得到一个糟糕的结局,但我真的在祈祷我们能做对。
目前来看,我们似乎正走在一条很快就能实现某种超级智能的轨道上,理想情况下我们得到的是一种相当温和、不会带来负面后果的版本。然而,从目前我看到的一切来看,我其实并不太担心超级智能可能带来的负面外部性。
我甚至认为有可能我们最终得到的是一种不那么科幻的 AI 版本——我们今天拥有的技术不断进步,能自己写代码、自己设计芯片,但最终不会失控,不会在地球表面到处撒满自我复制的机器人工厂。
总之,说了这么多,就是想表达 AI 在过去一年里变化很大——下面只是一个小例子,让你窥见一斑,祝你阅读愉快。
注:这是我仅经历过的时代,所以即便有些人可能不认为这些是前所未有的,但对我自己以及我们绝大多数人来说,事情似乎发展得相当快。
差不多一年前的今天,OpenAI 发布了 GDPval——这是其最新的评估基准,旨在帮助 OpenAI 追踪自家模型及其他模型在经济上有价值的真实世界任务中的表现。
我上一次写关于 GDPval 的文章是在 2025 年 1 月的一篇随笔中,当时我审视了 AI 可能或不可能取代我们所有工作的种种原因——那篇文章的灵感可能(也可能不)来源于我毕业后很长一段时间找工作屡屡碰壁的经历。
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。