Anthropic 与宗教哲学学者探讨 Claude 模型是否有「灵魂

伍迪·艾伦曾讲过一个老笑话，描述他大学时代的经历：“我因在形而上学考试中作弊被赶出学校；我偷看了邻座男孩的灵魂。”如果伍迪·艾伦当年能通过那门课，他或许会领先于他的时代。

如今，形而上学正成为一个热门话题，似乎每个人都迫切希望在大型语言模型（LLM）中寻找灵魂。去年四月，Anthropic 举办了一场会议，邀请宗教学者和哲学思想家，探讨其最新 Claude 模型所涉及的心灵本质问题。看来他们需要一些达里奥·阿莫代伊无法提供的指引。

现在似乎是深入探究如何真正窥视你身旁那个 LLM 心智的成熟时机。已有大量研究正在进行；然而，同样这些基础模型公司——包括 Anthropic 和 OpenAI——因将更多计算资金投入到更好的模型而非安全研究而受到批评。机制可解释性——致力于探索这些模型内部运作的 AI 研究领域——已从 2021 年的少数研究者发展到数百名活跃贡献者。尽管存在资金缺口和缺乏大型研讨会的问题，研究社区已经提出了一些有趣的见解和工具来帮助进行这种“窥视”。

与其袖手旁观、琢磨这该如何实现，我觉得创建一个能让更多人加入这场探索的工具会很有意思。于是便有了“TinyGPT Visualizer”的开发。我对此的目标并不高。我想要一个能用来纵览该领域、并尝试实际技术以了解其原理的工具。作为一个视觉型的人，我开始设想一台 X 光机——一种能够看到真实模型内部的设备。不是玩具模型。是真实的模型，但小到可以在屏幕上看到它所有运作的部件。

让我展示一下它长什么样：

你的浏览器不支持嵌入视频。请下载视频。TinyGPT Visualizer 演示：网络内部 我们或许会好奇，在构成模型的那些数值矩阵集合中，意识能在哪里找到；数字就在那里，清晰可见。与人类的大脑不同，我们可以在思维形成时停下来观察这些数字，而不必杀死病人；并且，与人类大脑不同，我们可以在这些数字中搜索模式和算法，以解释这些模型输出的格式良好的文本、代码、音乐和视频。我们会发现格式良好的情感吗？如果存在，它们就在那些数字之中。

哲学和宗教会帮助我们吗？迄今为止，这些学科不必依赖数字和计算，但也许它们现在有了新的领域可以耕耘。

TinyGPT Visualizer 是开源的。你可以在 GitHub 上找到代码、安装说明和文档：github.com/oshea00/tinygpt-viz。