Anthropic开源FlashProve：可验证回复出自特定模型，成本降低72倍

Anthropic 发布了一个开源原型，让任何人都能验证某条回复确实来自某个特定的、已承诺的模型，而无需查看其权重。我们用通俗的语言拆解其中的三个步骤，把基准测试换算成每次请求的成本和体积，并列出这项证明没有覆盖的内容。

当你通过 API 为某个模型付费时，你信任的是服务商确实运行了它所声称的模型。但你无法核实。服务商可能悄悄换上一个更便宜的模型，或者一个经过修改的模型。

可证明推理把这种信任变成了一种可核查的机制。Anthropic 的文章列出了客户或监管机构可以确认的内容：某条回复确实来自所承诺的模型、基于给定的输入生成；所服务的模型正是他们付费购买的那个；模型没有被悄悄替换。

零知识意味着证明不会泄露任何关于权重或中间步骤的信息。可靠性（Soundness）意味着伪造的证明会被拒绝。简洁性（Succinct）意味着与重新运行模型相比，证明体积小、验证速度快。

为一个 4000 亿参数模型的每一次乘法都生成证明会慢得离谱。FlashProve 的巧思在于：混合专家模型每个 token 只使用少数几个专家，因此证明者的工作量随活跃专家数扩展，而非整个模型。

Anthropic 在 Llama 4 Maverick 上进行了测试：总参数 400B，每个 token 约 17B 活跃参数，4-bit 权重。证明者从主机内存流式读取权重分段，因此可以在单张 GPU 上运行。

以下是 Anthropic 的数据，以及换算成每次请求后的同一组数据：

Anthropic 的测量结果（Llama 4 Maverick，单张 H100） 24 个请求的批次证明耗时约 223 秒 证明者吞吐量约 110 tokens/s 相对于 vLLM 服务的开销约为 72 倍 GPU 时间（66-77 倍；在 vLLM 最高负载下约 94 倍） 证明体积约 18.8 MB 验证者在 24 个 CPU 线程上约 17 秒，单线程约 21 秒 承诺下载约 6.5 MB

每次 1,024-token 请求（我们的计算） H100 证明时间 223 秒 / 24 = 约 9.3 秒 需传输的数据约 19 MB 证明

因此，对每个请求都进行证明会使 GPU 成本增加约两个数量级，Anthropic 自己也这么说。证明是在事后分批生成的，所以用户不必等待。买方可以要求对请求进行随机抽样证明，而非全部请求。

Anthropic 明确列出了这些局限，而它们确实重要：

文章还有一个范围界定要点：证明硬件当时在忙于提供服务，并不能排除它同时被用于训练。

Anthropic 表示，此前的开源系统要慢几个数量级。它还引用了 Attestable 在稠密 31B 模型上 53 到 77 tokens/s 的数据，但 Attestable 尚未发布开源代码，因此这一对比无法从外部核实。