返回资讯中心
外部精选
软件工程
#开发者实时流

分析发现DeepSeek等四家中国AI公司模型带有Blackwell芯片特征

来源标题:Chinese frontier AI models carry the fingerprint of export-controlled GPUs

对公开模型权重的取证分析显示,DeepSeek、Moonshot AI、MiniMax和蚂蚁集团已获得受出口管制的NVIDIA Blackwell GPU,并用其训练模型。这四家公司自2026年4月以来发布的6个模型均出现与Blackwell硬件匹配的数值模式,而它们更早的模型对应的是上一代Hopper。研究团队还在实体Blackwell芯片上复现了DeepSeek-V4-Flash和Kimi K3的匹配结果。

Hacker News 最新firloop2026/11/12 · 5 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

我们对公开发布的 AI 模型所做的取证分析发现,有证据表明,DeepSeek、Moonshot AI、MiniMax 和蚂蚁集团已经获得了 NVIDIA 的 Blackwell GPU,尽管这些芯片受到对华出口限制,并且正在使用这些硬件来创建它们的 AI 模型。这些公司自 2026 年 4 月以来发布的六个模型包含与 Blackwell 硬件匹配的数值模式,而同一公司更早的模型则与 NVIDIA 较旧的 Hopper 代际匹配。这些发现表明,几家领先的中国 AI 开发商已经开始使用 Blackwell 来训练其最新模型。美国官员和媒体报道此前已经指控 DeepSeek 和 Moonshot AI 在使用 Blackwell 芯片,但未公布技术证据。

证据完全来自模型自身公开的权重,而非泄露或内部人士的说法。我们恢复了模型初始值的痕迹,然后搜索能够复现这些初始值的硬件配置和初始配置;对于 DeepSeek-V4-Flash 和 Kimi K3,我们还在物理 Blackwell 芯片上确认了匹配。该指纹识别的是权重如何被创建,并支持——但并未证明——Blackwell 也执行了训练的推断。经过特殊配置的 AMD 硬件同样受到对华出口限制,是我们识别出的唯一替代方案;我们已为 DeepSeek-V4-Flash 排除了它,并认为其他五个模型使用它的可能性非常低。值得注意的是,我们的发现提供了获取先进计算硬件的技术证据,但并未确定芯片所在位置、获取方式,或是否违反了出口管制。

表 1. DeepSeek、Moonshot AI、MiniMax 和蚂蚁集团 successive 模型中的硬件指纹 Link ↗ • 向中国出口需要美国许可证;未见任何相关报道。 Hopper 指纹无法区分 H800 与 H100 SXM 或 H200;上表中的 H800 识别来自实验室披露,而非本方法的发现。

表 2. 每次训练运行的粗略规模 Link ↗ 训练算力(约 6 × 活跃参数 × 训练 token 数)除以 35% 利用率下的芯片吞吐量,运行时间为两到三个月(DeepSeek-V4-Flash 为六到八周)。DeepSeek 披露了其 token 数量;对于其他模型,我们根据权重进行了估算。

模型的权重,也称为参数,是决定其如何处理信息和生成答案的数十亿个可调整数字。训练会反复调整这些数字;但在训练开始之前,它们需要有初始值。在此处检查的软件中,这些值来自一种名为 Philox 的伪随机数生成(PRNG)算法:Philox 以确定性的方式生成看似随机的数字。Philox 的起始输入是一个称为“种子”的数字。给定相同的种子和设置,Philox 每次都会生成相同的数字。这使工程师能够从相同的起点重复实验。

为了快速填充数十亿个权重,PyTorch——大多数主要 AI 模型开发中使用的软件框架——将 Philox 所做的工作分配给 GPU 上许多称为线程的并行工作单元。(它通过 cuRAND,即 NVIDIA 的随机数生成库来实现这一点。)每个线程从种子生成自己的数字序列,并填充特定的一组位置。线程数量随后决定了这些位置如何分配。在此处检查的 NVIDIA 芯片上,足够大的初始化会为每个称为流式多处理器(SM)的处理单元使用最多 2,048 个线程。因此,拥有更多 SM 的芯片会将相同的工作分配给更多工作单元,从而改变它们的数字去向。

图 1 展示了一个简化的 GPU 上如何运作,该 GPU 有六个 SM,每个 SM 八个线程,总共 48 个线程。想象权重是一长排空盒子,为了适应页面而折叠成网格。第一个线程填充第一个盒子,第二个线程填充第二个盒子,依此类推,直到所有 48 个线程。然后第一个线程的下一个数字进入第 49 个盒子,再下一个进入第 97 个盒子,以此类推。黑色轮廓跟踪这一个线程穿过网格:第一个线程填充每隔 48 个位置。颜色标识每个处理单元提供哪组值,而右侧面板中的亮度代表值本身。

现在保持种子固定,但使用一个有五个 SM 而非六个的 GPU。在我们的简化示例中,这意味着 40 个线程而非 48 个。第一个线程生成完全相同的序列,但现在将其数字放入第 1、41、81 个盒子,而不是第 1、49、97 个盒子。图 2 跟踪这些数字位置的变化。在整个网格中,只有 6% 的值与原始排列匹配。种子是对的,但工作单元数量错了。这就是为什么模型权重的排列成为所用芯片线索的原因。

因此,复现权重需要同时满足两个条件。种子必须生成正确的数字,线程数量必须将它们放在正确的位置。正确的种子加上错误的线程数量,大多会得到正确数字但位置错误;正确的线程数量加上错误的种子,会得到不同的数字。图 3 展示了为什么只有正确的组合才能重现原始排列。

在真实芯片上,线程数量要大得多,但原理相同。在此处检查的 NVIDIA 配置中,Hopper H100 SXM、H200 和 H800 有 132 个 SM,使用 270,336 个线程;Blackwell B200/B300 有 148 个 SM,使用 303,104 个线程;Blackwell GB200/GB300 有 152 个 SM,使用 311,296 个线程。因此,恢复线程数量可以告诉我们这些硬件组中哪一个与起始排列匹配,尽管它无法区分同一组内的芯片。例如,Hopper 匹配无法区分 H800 与 H100 或 H200。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →