Hugging Face 与 OpenRouter 联手,让开放权重模型易于运行
Hugging Face 与 OpenRouter 正在合作,让开放权重模型易于运行。每一个重要的开放权重版本都已经发布在 Hugging Face Hub 上,而 OpenRouter 大规模地提供这些模型,基于对每一家 80+ 提供商的实时测量,把每个请求路由到合适的提供商。现在,Hub 上由提供商服务的每个开放权重模型,都可以用你的 Hugging Face token,通过同一个 API 调用,并为每个请求挑选最佳提供商。
今天,我们把 Inference Providers 从我们自己的自定义路由器切换到了 OpenRouter 的路由器。发往语言模型的请求现在会经过 OpenRouter,它根据实时价格、速度和可靠性为每次调用挑选最佳提供商,如果第一个提供商失败,会在另一个提供商上重试。你的代码保持不变。
用你已经在用的工具运行它们
该路由器为每个对话模型支持 OpenAI 的 Chat Completions 和 Responses API 以及 Anthropic 的 Messages API,无论背后是哪家提供商。选择你的编码智能体或 SDK 以及一个模型,然后复制步骤,或者把整套配置作为提示词复制给你的智能体:
Claude Code、Codex、OpenCode、Pi 和 Hermes Agent 的设置指南
同一个 Hugging Face token 还能为你提供存储(Storage Buckets)、计算(Jobs)以及专用推理(Inference Endpoints)。PRO、Team 和 Enterprise 套餐包含每月用于计算和推理的额度。
开放权重模型的使用情况
在 OpenRouter 上,开放权重模型所占的 token 份额从 2025 年 10 月的 26.8% 上升到 2026 年 9 月底的 71.7%,此前在 7 月达到 77.5% 的峰值(OpenRouter,2026 年 10 月)。同一时期,开放权重的周处理量增长了 60 多倍,而闭源模型增长了近十倍。本周,OpenRouter 上使用最多的模型是一个开放权重模型 DeepSeek V4.1 Flash 1017,达到 59.2 万亿 token(排名)。


开放权重模型的平均成本约为四分之一:每百万输入 token 0.28 美元、每百万输出 token 1.62 美元,而闭源模型为 1.27 美元和 6.36 美元。
最好的开放权重模型在最难的基准测试上仍落后于最好的专有模型。在 Artificial Analysis Intelligence Index 上,最好的开放权重模型 Kimi K3.1 Pro 得分为 46,而 Claude Fable 5.2 为 65,但每个任务的成本约为其七分之一(3.68 美元对 26.54 美元)。对很多工作负载来说,这种取舍是值得的。


由 OpenRouter 提供支持的路由
OpenRouter 每月向超过 1000 万用户提供超过 800 万亿 token,涵盖来自 80+ 提供商的 600+ 模型。其路由基于对这些流量中每一家提供商的实时测量。
OpenRouter 最近重建了其提供商路由:不再只看最低标价,而是把每个请求发送到价格、速度和可靠性综合最优的提供商。
当某个提供商变慢或开始出错时,流量会从它那里转移出去,直到它恢复,而一次失败的尝试会在同一次调用中由下一个最佳提供商重试。在 OpenRouter 的测量中,新的路由将容量错误减少了 46%,并将首个 token 时间改善了 16.9%,吞吐量改善了 16.3%。


以前,Inference Providers 为你的请求选择一个提供商,如果它失败了就返回它的错误。现在,请求会在另一个提供商上重试。你仍然可以通过在模型 id 上添加后缀来选择策略或提供商:
zai-org/GLM-5.3 # 默认:价格、速度和可靠性的最佳组合
zai-org/GLM-5.3:fastest # 最高吞吐量
zai-org/GLM-5.3:cheapest # 最低价格
zai-org/GLM-5.3:novita # 仅 Novita
路由也是缓存感知的:对话会停留在持有其提示缓存的提供商上。为了明确这一点,请在 X-HF-Session-Id 头中为每个对话发送一个稳定的 UUID(参见提示缓存指南)。
定价
定价没有变化:你在 Hugging Face 账单上支付提供商的价格,Hugging Face 不会在此基础上加价。PRO 用户每月获得 2 美元额度,Team 和 Enterprise 组织每个席位获得 2 美元。详情请参阅定价与账单。
图像、视频和音频生成
图像、视频和音频生成完全像以前一样工作,直接通过 Hugging Face Inference Providers,而不经过 OpenRouter。你可以继续使用相同的 token 和 API,并访问数万个 LoRA。
查看你的请求去向
在模型页面上,你可以直接在小组件中与模型聊天。两个新标签页展示了其背后的内容:Providers 列出了 OpenRouter 可以将模型路由到的每个提供商,以及其输入和输出价格、过去 24 小时的速度和正常运行时间;Metrics 显示了其中最佳的价格、吞吐量、首个 token 时间、上下文长度和正常运行时间:


你的使用概览按每个请求所去的提供商细分了你的支出:


在你的设置中,你可以关闭任何你不想要的提供商:路由器永远不会将你的请求发送到那里。组织拥有相同的设置,并且它们适用于向组织计费的每个请求。


重大变更:自定义提供商密钥
对语言模型的请求现在经由 OpenRouter 处理,并计入你的 Hugging Face 账户或组织账单,因此对于这些模型,你不能再使用自己在某个提供商处的 API 密钥。你仍然可以通过在模型 id 后加后缀(model:provider)来选择提供商,或在设置中关闭某些提供商,而你的代码保持不变。图像和视频提供商的自定义密钥仍然可用。
后续计划
这是我们与 OpenRouter 合作的第一步。接下来:
- 将你的 OpenRouter 账户连接到 Hugging Face。
- 更多任务将经由 OpenRouter 路由。
试用一个模型,或阅读 Inference Providers 文档以开始使用。