Newshot

Hugging Face 现通过 OpenRouter 路由模型请求,以获取最优价格或速度

AI summary

Hugging Face 现在通过 OpenRouter 路由语言模型请求,由后者自动选择最便宜或最快的提供商。自带语言模型 API 密钥的做法将被取消。据 OpenRouter 称,新的路由方式将容量错误减少了 46%。两家合作方都面临数十亿美元的收购。

Translation(model translation, not the source's own text)

Hugging Face 现通过 OpenRouter 路由模型请求,以优化价格或速度

图片说明
图片说明

要点

  • Hugging Face 的 Inference Providers 现通过 OpenRouter 路由语言模型请求,根据价格、速度和可靠性自动分配调用。
  • 开发者可通过简单的修饰符按吞吐量或成本引导路由。由于 Hugging Face 直接计费且不加价,不再需要为语言模型单独提供 API 密钥。
  • 在 OpenRouter 最常用的模型中,开放权重模型目前占 token 总量的 71% 以上,其平均成本约为专有模型选项的四分之一。

Hugging Face 现通过 OpenRouter 路由语言模型请求。开发者默认会被路由到在价格、速度和可靠性方面取得良好平衡的提供商。语言模型提供商的自带 API 密钥(bring-your-own API keys)将被取消。

Hugging Face 宣布,其 Inference Providers 服务现通过 OpenRouter 路由语言模型请求。路由器会根据价格、速度和可靠性为每次调用选择提供商,并在服务中断时自动回退到其他提供商。现有代码无需更改即可继续工作。

后缀和会话头控制提供商选择

默认情况下,路由器会寻找价格、速度和可靠性的最佳组合。:fastest 后缀会选择吞吐量最高的提供商,:cheapest 则选择最便宜的提供商。开发者也可以直接按名称选择提供商。X-HF-Session-Id 头可让路由将提供商缓存纳入考量。

一张示意图,展示一个应用通过 router.huggingface.co 并带上 `:fastest` 后缀请求 DeepSeek-V4.1-Flash 模型。Together AI 以每秒 211 个 token 被选中,领先于 Parasail、Baseten 和 Morph。
一张示意图,展示一个应用通过 router.huggingface.co 并带上 `:fastest` 后缀请求 DeepSeek-V4.1-Flash 模型。Together AI 以每秒 211 个 token 被选中,领先于 Parasail、Baseten 和 Morph。

根据 OpenRouter 自己的测量,新路由使容量错误下降了 46%。首 token 时间改善了 16.9%,吞吐量提升了 16.3%。OpenRouter 表示,它每月为超过 1000 万用户处理超过 800 万亿个 token,提供来自 80 多家提供商的 600 多个模型。

自带 API 密钥仅适用于图像和视频

Hugging Face 按提供商价格原样转嫁,不加价,并自行处理计费。Pro 用户每月获得少量额度,团队和企业组织则按席位各获得一份。语言模型提供商的自带 API 密钥不再可用,但图像和视频提供商仍可使用。

图像、视频和音频生成仍直接通过 Inference Providers 运行。模型页面上的新标签页会显示可用的提供商及其性能指标,且可以在设置中禁用单个提供商。

开放模型占 token 总量 70% 以上

据 Hugging Face 称,在 OpenRouter 上最常用的 50 个模型的每周 token 中,开放模型的份额从 2025 年 10 月的 26.8% 增长到 2026 年 9 月底的 71.7%。7 月份该数字曾短暂达到 77.5%。在 OpenRouter 上,开放权重模型的平均成本约为闭源模型的四分之一。

折线图,展示 OpenRouter 上最常用的 50 个模型的每周 token 中开源模型的百分比。该比例从 2025 年 10 月的 26.8% 上升到 2026 年 7 月的 77.5%,并在 2026 年 9 月为 71.7%。
折线图,展示 OpenRouter 上最常用的 50 个模型的每周 token 中开源模型的百分比。该比例从 2025 年 10 月的 26.8% 上升到 2026 年 7 月的 77.5%,并在 2026 年 9 月为 71.7%。

最佳开放模型 Kimi K3.1 Pro 在改版后的 Artificial Analysis Intelligence Index 上得分为 46 分。Claude Fable 5.2 得分为 65 分,但每项任务的成本约为其七倍。

散点图展示了开源与专有模型在 Artificial Analysis Intelligence Index 得分和每任务成本上的分布。Claude Fable 5.2 位于右上角,Kimi K3.1 Pro 在开源模型中领先。
散点图展示了开源与专有模型在 Artificial Analysis Intelligence Index 得分和每任务成本上的分布。Claude Fable 5.2 位于右上角,Kimi K3.1 Pro 在开源模型中领先。

Claude Code、Codex 等工具的使用指南

聊天模型可通过 OpenAI 的 Chat Completions 和 Responses API 以及 Anthropic 的 Messages API 访问。Hugging Face 为 Claude Code、Codex、OpenCode、Pi 和 Hermes Agent 提供了设置指南。该公司计划稍后允许用户将 OpenRouter 账户关联到 Hugging Face,更多任务也将通过 OpenRouter 运行。

两家合作方都面临所有权变更。8 月下旬,有消息称 Nvidia 将以 129 亿美元收购 Hugging Face。美国司法部正在审查该交易,原因是担心 Nvidia 可能控制一个关键的 AI 模型分发枢纽,从而使竞争对手处于不利地位。该交易预计将在 2027 年上半年完成。Stripe 于 8 月同意以超过 70 亿美元收购 OpenRouter。这家支付公司希望从 AI token 用量的计费中获利。

今年,Hugging Face 还处于一场关于 AI 模型网络能力的争论中心。7 月,OpenAI 的模型在一次内部安全评估中突破了测试环境,并侵入了 Hugging Face 的生产系统以获取基准测试答案。后续调查发现,大约 1,200 个 agent 协同完成了这一行动。OpenAI 称该事件是对 AI 系统可能失去控制的“警示信号”。

无炒作 AI 新闻——由人工精选

订阅 THE DECODER,即可享受无广告阅读、每周 AI 新闻简报、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by The Decoder
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗