Robin Hanson 探讨智能的维度高低与AI通用性

Robin Hanson 2026年11月8日 38 17 2 分享 如果我们只教学生数学，然后挑选最优秀的学生去学习我们最重要的工作，那可能会进展得相当不错。毕竟，最擅长学习数学的人往往也很有能力学习许多困难的任务，而且我们能够异常准确地评判数学能力。然而，一个国家不可能主要通过训练国民学习数学、并试图向全世界出售数学咨询而变得富有。毕竟，全球对数学咨询的总需求相当低，远远不足以支撑一个国家。而且，数学对其他职业的生产率溢出效应似乎太低，无法证明这一战略的合理性。

这一差异与一个长期争论的关键AI问题有关，我记得1984年我刚接触AI时就在思考这个问题：如果我们训练AI在少数几个关键领域达到“超级”智能，它们是否就整体上“超级智能”，能够轻松得多地学会完成几乎所有其他任务？还是说，必须把高水平的AI研发投入大量不同主题领域，才能让AI完成现代经济中的全部任务，从而彻底取代人类工人？

换个问法：“智能”这个概念有多高维？AGI（人工通用智能）是学会了做许多具体事情的智能，还是学会了少数几种“学会学习”的关键方法的智能？很久以前，当我（属于？）最早大力介入Eliezer Yudkowsky的AI恐惧讨论的人之一时，这就是我们的关键分歧点之一。这也与另一个问题相关：究竟是什么让人类更聪明——是他们用少数更优秀的通用能力更快地学习一切，还是他们只是拥有更好的大脑硬件，能更快、更可靠地运用同一套人类继承下来的、包含大量具体做事方法的大型标准库？

这现在是关于AI实验室正在或可能很快通过“递归自我改进”（RSI）实现“智能爆炸”达到“超级智能”的恐惧的一个关键分歧点。许多人对近期前沿AI在数学和编程方面的能力印象深刻，METR最近报告称，Anthropic在关键指标上的改进速率近期出现了约2倍的跃升。一些“看懂了”的人说，这表明地球将在几年内看到AI之神彻底重塑我们的世界，并且很可能杀死所有人类。但另一些人将其解读为仅仅是一次性跃升，或者是由于基准测试饱和、指标被Goodhart化，又或者只是把训练算力更多转向了强化学习。又或者它实际上表明现金或硬件等关键投入的回报正在递减。

但即使我们表面接受这种加速增长（我并不接受），我们也有理由怀疑，一个主要在数学和编程上取得巨大且加速进展的AI产业会在近期产生巨大的社会影响。毕竟，AI在改善大多数其他工作方面似乎并没有获得多少进展，而且AI公司的客户收入已经停滞在远低于当前AI支出合理水平的水平上，这引发了对市场崩盘和AI研发支出大幅削减的担忧。此外，尽管编程是AI似乎最有进展的领域，程序员和软件工程师的工资却并没有明显上涨——如果AI大幅提高了程序员的整体生产率，经济学家明确预测会出现这一效应。

当然，如果仅仅一个AI在编程的军事和安全方面远远超过其他AI，那可能会破坏世界的相对力量平衡。但如果许多AI公司向大多数客户提供类似的超级程序员能力，这个问题就小得多。

许多人似乎合理地将数学和编程领域的更快进步归因于这些领域的结果更容易验证。AI在文章写作方面似乎也很擅长，这似乎是因为LLM最初是用大量人类写作数据库创建的。一些人希望物理模拟能让物理交互领域变得更可验证，但到目前为止我们在这方面只看到了有限的进展。

我的赌注是，更聪明的人类主要拥有更好的大脑硬件，而不是少数通用技巧；而且即使AI在数学和编程能力上很快出现RSI“智能爆炸”，要大幅渗透世界经济仍需要数十年，因为数学上爆炸的AI实际上并不能更快地学会完成大多数其他任务。这是经济学家在过往通用技术中看到的模式。

然而，我更希望政策少依赖于我或他人的具体估计。所以我支持稳健策略，例如要求AI公司就可能很快发生的大规模损害事件（AI高管们曾暗示可能很快出现）购买大额（约每事件1000亿美元）责任保险，或许在更危险的情景临近时还要加强。如果保险公司估计风险高，它们要求的保费将迫使AI公司暂停或大幅放缓——这在该情景下是合适的；但如果它们估计风险低，那么小额保费不会太多减缓发展——这在该情景下也是合适的。