Anthropic开源FlashProve，可验证AI模型身份但成本过高

使用 AI API 的开发者几乎无法知道响应请求的模型是否真的是他们付费的那个。提供商可能将请求路由到更便宜的模型，或者攻击者可能干扰响应，而客户没有明显的方法来检测这种切换。

现在，Anthropic 想要改变这一点。该公司的 Frontier Red Team 发布了 FlashProve，这是一个开源密码学系统，旨在验证哪个 AI 模型产生了响应，同时不暴露其底层权重。

该系统于周二公布，这项研究最终可能帮助开发者验证第三方 AI 服务并检测被入侵的推理系统。但 FlashProve 仍是一个研究原型，生成证明的成本使其不适合常规 API 流量。

但 FlashProve 仍是一个研究原型，生成证明的成本使其不适合常规 API 流量。

FlashProve 如何证明模型

FlashProve 使用 zkSNARKs 来验证响应来自一组特定的模型权重，而不揭示这些权重。承诺仍必须来自可信来源，否则证明意义不大。 Anthropic 已在 GitHub 上发布 FlashProve，开发者可以下载代码并自行测试该系统。然而，它仍是一个研究原型，并未作为 Claude API 的功能提供。

每个证明的成本

Anthropic 在 Meta 的 Llama 4 Maverick（一个 4000 亿参数的混合专家模型）上测试了 FlashProve，而不是 Claude。 根据 Anthropic 的基准测试，FlashProve 在单块 Nvidia H100 GPU 上生成证明时，每秒处理约 110 个提示 token。每个证明约为 18.78 MB，在单个 CPU 线程上验证约需 21 秒。生成证明的成本远高于检查证明。 与使用 vLLM 的标准推理相比，FlashProve 生成证明需要多 70 到 95 倍的 GPU 时间。它还在请求完成后批量生成证明，而不是在 token 交付时进行验证。 FlashProve 将证明大小削减至约 19 MB，验证时间缩短至数秒 FlashProve 将证明大小削减至约 19 MB，验证时间缩短至数秒，尽管生成这些证明仍然昂贵，对于需要立即验证每个响应的应用来说不太实用。 对于已经在密切关注推理支出每一 token 的开发者来说，为常规 API 流量增加如此多的 GPU 开销将难以合理化。 尽管如此，Anthropic 表示 FlashProve 比之前的开源系统快得多。一个名为 VerInf 的早期系统需要 14.3 小时来生成覆盖 1,000 个 token 的证明。生成的证明为 93.6 GB，验证耗时近一天。

Claude 构建，人类验证

Anthropic 将 FlashProve 的大部分开发归功于 Claude，包括使其密码学证明大幅加速的优化。但研究人员仍需验证这些改进没有损害协议的安全保证。 团队使用 Lean 形式化验证协议的数学性质，包括它接受有效证明、以压倒性概率拒绝伪造证明，并且不会泄露超出响应所披露内容的模型权重。 FlashProve 包含两个验证器：一个更快的 C++ 实现和一个由形式化证明支持的 Lean 版本。C++ 验证器通过了 Anthropic 的对比测试，但尚未经过形式化验证。GPU 证明器也没有。 Anthropic 表示，C++ 验证器和 GPU 证明器已针对形式化定义的协议进行了测试，但两者都不具备与 Lean 实现相同的数学保证。

为什么 FlashProve 尚未生产就绪

FlashProve 仍限制在 1,024 个 token 的上下文。它还使用基于整数的推理和贪心解码，而生产模型通常依赖浮点计算和采样。 目前没有迹象表明 FlashProve 何时或是否会进入 Claude API。 目前没有迹象表明 FlashProve 何时或是否会进入 Claude API。Anthropic 将 GitHub 发布描述为研究产物，不进行维护也不接受贡献。 文章《Anthropic found a way to prove which AI model answered you — but there’s a costly catch》首次出现在 The New Stack。