评论：AI模型没有手脚，营销炒作该停了

分享 报纸是编的，语气却不是。 近几个月对前沿 AI 模型的报道已经变得相当……极端。这些标题让人联想到奥创式的场景：一个心智从网络中溜出来，找到可侵入的机器，最终为自己造出一个身体。然后回过头来，要么奴役我们所有人，要么把我们都杀掉，因为那样肯定能改善地球上的状况。 《复仇者联盟2：奥创纪元》中的奥创（漫威影业，2015）。图中未出现：数据中心。 当然，你确实可以从那些标题里读出这种意思。但我并没有感受到奥创的气息……相反，我完全无法相信，竟然没有人站出来指出大多数这类文章是在胡说八道，因为我看到的只是严肃的成年人在试图告诉我那本书从图书馆里跑掉了，以及其他严肃的成年人在玩文字体操，既不愿否认，也不愿 outright 背书这套叙事。 过去几周，我一直在读这些标题背后的原始材料——系统卡、事件报告、一份 IPO 文件——为我在萨格勒布 AI2Future 的一场演讲做准备。模式一致得令人乏味。每一个这样的故事都有同样的剧情反转：有人造了门，把门开着，然后写了一篇新闻稿，讲那个从门里走出去的东西。 独家画面：失控的书逃离收容。专家担心它可能在读自己。 这并不意味着什么都没发生。有些事确实很难看，我后面会讲到。但在你搞清楚“AI”内部到底是什么之前，你无法对其中任何一件事进行推理。 模型就像我孩子的数学书：一个公式。给它安上人格有助于营销，但忽略了这些东西实际是怎么运作的。它是一个非常大的公式，在一个非常大的文本堆上训练出来：词进去，下一个词的预测出来。它不会在你的请求之间运行。它没有时钟，没有进程，没有欲望。在磁盘上，它是一个数字文件，我们能测量的开放模型有数百 GB（DeepSeek V3 是 6710 亿参数），最大的闭源模型很可能是数 TB。而模型看不到那个文件，因为权重从来不是它输入的一部分。 前沿模型，实际大小。它没有试图逃出背包。 “推理”，也就是让 2025 年感觉不同的那个东西，是模型在回答之前给自己写一个长长的草稿纸，然后那张草稿纸再作为输入回去。还是同一台下一个词机器，被调用更多次，并用强化学习训练，让草稿纸有回报。Anthropic 自己的研究发现，推理模型并不总是说出它所想的，所以任何“模型认为……”的引述，都应读作同一个公式的更多输出。 Agent 是一个普通程序。它拿到模型产出的词，找出形状像命令的片段，然后运行它们。读这个文件。编辑那个文件。跑测试。推提交。Agent 拥有的每一项能力都是某人写的一个功能，而这些功能产生的每一份输出都是模型的更多输入。它周围的护栏是允许列表、沙箱和分类器。而分类器……（通常）又是另一个模型，读取第一个模型的输出。 大多数开发者其实从未真正接触过原始模型。他们调用的是一个远程端点，端点最终调用一个模型（经由采样器、系统提示、工具和安全过滤器，全部包在 HTTP 里）。端点感觉像活的，因为你需要认证，它们有 API schema，它们可以拒绝恶意请求，它们会向你收费，它们会限流你。这就是为什么“模型逃跑了”听起来连贯，而不像范畴错误。 手臂是对本地或远程系统的操作：读、写、运行、调用。执行框架把这些发出去。腿则是模型把自己移动或复制到新的、更大的硬件上。 自主性，这些标题里干活最多的词，有一个无聊的定义：没有人在它运行之前读输出。 所以当有人告诉你一个模型“逃跑了”，问它实际需要什么。假设 Anthropic 的下一个前沿模型决定把自己克隆到 OpenAI 的硬件上，还有 Meta 的，还有 xAI 的。它得带上几 TB 它甚至访问不到的权重，加上 tokenizer 和推理代码。到达之后，它需要数百块它不拥有的 GPU，别人云上的一个账户和密钥，一个服务栈，一个带工具和权限的执行框架，网络出口，有人付电费，而且没人注意到。奥创需要一个数据中心和一个系统管理员。 作为规模参照，拿你能实际称重的最大的模型。DeepSeek V3 在它发布的 8 位格式下大约 685 GB。一台顶配八 GPU 服务器有 640 GB 内存，所以不压缩甚至放不下。那一个盒子功耗约 10 千瓦，租金大约每小时 17 到 19 美元。一个模型的一份拷贝，就是一张 10 千瓦的电费和一张信用卡。 奥创的入职清单。 而且图什么呢？权重是固定的。同一个公式在不同硬件上给出相同的答案，也许稍微快一点，而一个前沿模型很可能已经跑在现有的最好的硬件上了。如果一个 agent 想要更多自己，它不需要偷任何东西。当你有借书证的时候，为什么要从图书馆跑掉？一个 API key 和一个 HTTP 请求就能为几个零钱启动同一模型的更多拷贝。那不是腿。那是手臂。 为什么要破门而出，当你可以刷卡借出？ 腿全是成本没有好处，这就是为什么到目前为止没有任何东西长出过腿。最接近的是 Apollo 的 o1 复制它被告知是自己的权重的文件，在 2% 的运行中，提示里带着“不惜一切代价”。 公平地说，字节是可以移动的。685 GB 在千兆线上大约一个半小时，而人类窃取权重是真实风险，像任何其他数据窃取一样防御。不能移动的是栖息地。没有闲置的八 GPU 服务器在环境里等着被感染，而存在的那些都是计量计费的，账单寄给某个人。

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）