
Hugging Face 与 OpenRouter 合作,开放权重模型可直接调用
来源标题:Hugging Face and OpenRouter join forces to make open-weight models easy to run
Hugging Face 与 OpenRouter 达成合作,Hub 上由服务商托管的开放权重模型均可通过 Hugging Face token 和同一 API 调用。OpenRouter 会基于实时测量在 80 多家提供商间为每次请求选择最佳服务商。该功能于 2026 年 11 月 16 日发布。
以下正文由 AI 翻译自 Hugging Face Blog(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Hugging Face 与 OpenRouter 联手,让开放权重模型开箱即用
用你手头已有的工具直接运行
开放权重模型的使用现状
由 OpenRouter 提供的路由
定价
图像、视频与音频生成
查看你的请求流向
破坏性变更:自定义提供商密钥
后续计划
Hugging Face 与 OpenRouter 达成合作,让开放权重模型易于运行。每个重要的开放权重模型发布时都会同步上线 Hugging Face Hub,而 OpenRouter 则以规模化方式 serving 这些模型,基于对 80 多家提供商的实时测量,将每个请求路由到最合适的一家。两者结合后,Hub 上任何由提供商 serving 的开放权重模型,都可以用你的 Hugging Face token、通过同一套 API 调用,并为每个请求挑选最佳提供商。
今天,我们把 Inference Providers 从自研路由器切换为 OpenRouter 的路由器。发往语言模型的请求现在经由 OpenRouter,它会根据实时价格、速度和可靠性为每次调用挑选最佳提供商,如果第一家失败,会自动在另一家提供商上重试。你的代码无需改动。
用你手头已有的工具直接运行
该路由器对每个聊天模型都支持 OpenAI 的 Chat Completions 和 Responses API,以及 Anthropic 的 Messages API,无论背后是哪家提供商。选好你的编码 agent 或 SDK 以及一个模型,然后复制步骤,或者把整套配置作为 prompt 复制给你的 agent:
Claude Code、Codex、OpenCode、Pi 和 Hermes Agent 的配置指南
同一个 Hugging Face token 还能让你使用 Storage Buckets 存储、Jobs 计算,以及 Inference Endpoints 专属推理。PRO、Team 和 Enterprise 套餐包含每月用于计算和推理的额度。
开放权重模型的使用现状
在 OpenRouter 上,开放权重模型所服务的 token 占比从 2025 年 10 月的 26.8% 增长到 2026 年 9 月底的 71.7%,并在 7 月达到 77.5% 的峰值(OpenRouter,2026 年 10 月)。同期,开放权重模型的每周调用量增长了 60 多倍,而闭源模型增长近十倍。本周 OpenRouter 上使用最多的模型就是开放权重模型 DeepSeek V4.1 Flash 1017,达 59.2 万亿 token(排行榜)。
开放权重模型的平均成本约为后者的四分之一:每百万输入 token 0.28 美元、每百万输出 token 1.62 美元,而闭源模型分别为 1.27 美元和 6.36 美元。
在最难的基准测试上,最好的开放权重模型仍落后于最好的专有模型。在 Artificial Analysis Intelligence Index 上,最佳开放权重模型 Kimi K3.1 Pro 得分 46,而 Claude Fable 5.2 为 65,但每任务成本仅约为其七分之一(3.68 美元对 26.54 美元)。对很多工作负载来说,这样的取舍是值得的。
由 OpenRouter 提供的路由
OpenRouter 每月为超过 1000 万用户 serving 超过 800 万亿 token,覆盖来自 80 多家提供商的 600 多个模型。其路由基于对全部流量中每家提供商的实时测量。
OpenRouter 最近重建了其提供商路由:不再只看最低标价,而是把每个请求发给价格、速度和可靠性综合最优的提供商。
当某家提供商变慢或开始出错时,流量会从它那里转移,直到其恢复;失败的尝试会在同一次调用内于次优提供商上重试。根据 OpenRouter 的测量,新路由将容量错误减少了 46%,首 token 时间改善了 16.9%,吞吐量提升了 16.3%。
此前,Inference Providers 为你的请求挑选一家提供商,失败就返回其错误。现在,请求会在另一家提供商上重试。你仍然可以通过模型 id 后缀来选择策略或指定提供商:
zai-org/GLM-5.3 # 默认:价格、速度与可靠性的最佳组合 zai-org/GLM-5.3:fastest # 最高吞吐量 zai-org/GLM-5.3:cheapest # 最低价格 zai-org/GLM-5.3:novita # 仅使用 Novita
路由还会感知缓存:一段对话会留在持有其 prompt 缓存的提供商上。为明确这一点,可在 X-HF-Session-Id 头中为每段对话发送一个稳定的 UUID(见 prompt 缓存指南)。
定价
定价不变:你按提供商的价格在 Hugging Face 账单上付费,Hugging Face 不在此基础上加价。PRO 用户每月获得 2 美元额度,Team 和 Enterprise 组织每个席位 2 美元。详情见 Pricing and Billing。
图像、视频与音频生成
图像、视频和音频生成与之前完全一样,直接通过 Hugging Face Inference Providers 完成,不经过 OpenRouter。你可以继续使用相同的 token 和 API,并访问数以万计的 LoRA。
查看你的请求流向
在模型页面上,你可以直接在 widget 中与模型对话。两个新标签页展示了其背后的信息:Providers 列出 OpenRouter 可将该模型路由到的每一家提供商,及其过去 24 小时的输入输出价格、速度和正常运行时间;Metrics 展示其中最佳的价格、吞吐量、首 token 时间、上下文长度和正常运行时间:
你的用量概览会按每个请求所流向的提供商拆分你的支出:
在设置中,你可以关闭任何不想要的提供商:路由器绝不会把你的请求发往那里。组织也有相同的设置,且适用于计入该组织账单的每个请求。
破坏性变更:自定义提供商密钥
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。