OpenAI员工反思自身工作与AI取代人类的关系

‘我们会从你那具可怜、正在腐烂的躯体中取出大脑，把它保存在特制的营养液里维持健康。我们会让它连接到一台机器上，这台机器能够在大脑中诱发任意模式的神经放电，从而为你带来任何可能由你神经系统的活动所产生的总体体验。’

我上大学时，经营着一个神经力学实验室的姑妈提出了一个设想：创建一个站在悬崖边缘的虚拟现实模拟，用它来研究人们如何协调肌肉以保持平衡。有许多退行性神经系统疾病会影响人的平衡能力，所以这个想法的出发点是，这种模拟或许能帮助人更快地学会恢复平衡能力，因为那种感知到的紧迫感会起作用（而他们不必真的站在悬崖边上）。

我一直在认真思考，类似的事情是不是正发生在我身上。也许这是作为 OpenAI 员工的副产品——我正日益成为数百万美国人眼中过时的代名词——又或者，这是把两年心血倾注到一家我所相信的公司、却对一个据我所知几乎完全不关心真正赚钱的创业生态越来越厌倦的结果。1

我和妻子最近在捣鼓一个副业项目，想构建我们自己的连接组。我们受到了几天前那篇 Weight Space Programming 博客文章的启发，再往前，则是 Twitter 上一群人用来做控制机器人之类事情的那个病毒式传播的果蝇连接组。我们俩在大学时都做过几年计算神经科学——那还是用大脑来学习似乎很重要的时候——我们也都对受大脑启发的智能模型和连接组学情有独钟。2

很多聪明、高成就的人似乎心底都有这样一个想法：他们的生活其实只是一场模拟，或者也许我们已经在来世了，只是还没意识到。这个想法越来越难以忽视。我想，如果我的反思程度低一些，现在大概已经精神错乱了。不是要煽情。只是我大脑里那个试图合理化和量化我人生的部分正在失控，并且被那个坚持要给我自主性的部分搞得一团糟。

存在一个基础概率 P(sim)P(\texttt{sim})P(sim)，它来自这样一个事实：与基线相比，我自己的生活似乎正沿着一条非常不寻常的轨迹前进。和我一起长大的大多数人现在都在做着非常可预测的事情，而我却在致力于建造一台机器神/人类进化的下一阶段。3 所以，用贝叶斯术语来说，把我这辈子有幸做的这件非常不寻常的事称为 θ\thetaθ：

由此可以清楚地看出，随着 P(θ)P(\theta)P(θ) 减小（意味着你生活的相对不寻常程度增加），P(sim)P(\texttt{sim})P(sim) 必然相应增大。因此，一个极其不寻常的人生，必定只可能在模拟中存在。

过去几年，我一直能忽略这个想法，方法是假定我这里的数学大概存在某个重大错误（比如说 P(sim∣θ)P(\texttt{sim} | \theta)P(sim∣θ) 不是常数——我还没有在 Lean 中把它形式化）。但当我开始捣鼓制作连接组巨内核，并意识到实际上模拟所有 ODE 来建模人类级别的大脑，大概在我家壁橱里就能运行的硬件上是可以实现的，这个假设就彻底崩塌了。

这当然引出一个恼人的推论：也许我实际上就是某个地方别人家壁橱里运行的一个模拟中的大脑。而也许我的大脑本身是由某个超级智能 AI 模型设计的。既然如此，考虑到我的生活似乎相当舒适（尽管算不上奢华），我一定站在了 Roko 的Basilisk 的正确一边。

脚注

或者至少，它与赚钱的实际操作如此脱节，以至于我与投资者的多数对话——其中一些人据称是聪明人——都带着一种后现代荒诞世界的感觉，严重搅乱我的大脑。↩

既然你在读我的博客，我假设你对机器学习有一定了解，但如果没有，在你掉进这个特别的兔子洞之前应该被告知：它绝对是个焦油坑。↩