Hugging Face 语言模型推理改由 OpenRouter 路由

Hugging Face 与 OpenRouter 的整合已经上线:Hugging Face 于 2026 年 11 月 16 日宣布,其无服务器推理服务 Inference Providers 在语言模型上改用 OpenRouter 的路由器。每一次请求现在都会实时按价格、速度和可靠性发送给当时组合最优的服务商——如果某家服务商失败,同一调用内会自动在另一家服务商上重试。

路由有何变化

在此之前,Inference Providers 每次请求只选一家服务商,失败时直接返回该服务商的错误。改用 OpenRouter 路由后,流量分布在 80 多家服务商之间,并具备自动故障转移:某家服务商变慢或开始失败时,请求会转移到其他服务商,直到它恢复。根据 OpenRouter 对 10 月重建的路由的实测,新逻辑让容量错误减少了 46%,首 token 时间加快了 16.9%,吞吐量提高了 16.3%,每次请求的成本高出 6.0%。

覆盖哪些模型

此次变更覆盖 38 个实验室的 160 个模型——即 OpenRouter 提供且在 Hub 上有页面的全部模型——包括 DeepSeek V4.1 Flash、Kimi K3.1 Pro 与 K3、GLM 5.3 与 GLM 5.3 Flash、Qwen3.8 27B、MiniMax M3.1 Flash、MiMo-V2.6-Flash、Nemotron 3 Ultra 和 gpt-oss-120b。路由器支持 OpenAI 的 Chat Completions 与 Responses API 以及 Anthropic 的 Messages API,Hugging Face 的代码和令牌保持不变。如需优先考虑某项指标,可以在模型 ID 后加后缀,例如 :fastest、:cheapest 或服务商名称,如 zai-org/GLM-5.3:fastest。

开放模型崛起

背景是开放权重模型的崛起:在 OpenRouter 上,它们在所服务 token 中的占比从 2025 年 10 月的 26.8% 升至 2026 年 9 月底的 71.7%,7 月峰值达 77.5%,同期周用量增长了 60 多倍。本周使用最多的模型就是开放模型 DeepSeek V4.1 Flash 1017,达 59.2 万亿 token。平均而言,开放模型便宜约四倍:每百万输入 token 0.28 美元、输出 token 1.62 美元,而封闭模型为 1.27 美元和 6.36 美元。

注意:自带密钥失效

有一项不兼容变更:自带服务商密钥(BYO)不再适用于语言模型,因为请求现在计入 Hugging Face 账户账单。仍可通过模型 ID 后缀选择服务商,或在设置中关闭某些服务商。图像与视频服务商的自带密钥继续有效,图像、视频和音频生成仍走 Inference Providers 的直接通道,不经过 OpenRouter。价格不变:用户按服务商价格支付 Hugging Face 账单,不加价。

下一步

整合也是双向的:OpenRouter 可以把每次请求的记录发送到用户自己的 Hugging Face Storage Bucket(测试版),包含消息、输出、token 数和成本,可作为构建评估集或微调集的原始材料。模型页面新增了 Providers 标签页,显示每家服务商的价格、速度和可用性,以及 Metrics 标签页。此次变更发生在 Stripe 完成收购 OpenRouter几周之后,Geekiki 对此进行了报道。两家公司表示,这只是合作的第一步:接下来将实现 OpenRouter 账户与 Hugging Face 的连接,并通过 OpenRouter 路由更多类型的任务。

来源:

图片:Hugging Face 图表,显示开放权重模型在 OpenRouter 所服务 token 中的占比,从 2025 年 10 月的 26.8% 升至 2026 年 9 月的 71.7%。来源:Hugging Face 博客。

本文在人工智能的协助下完成,并与公开帖文和网络来源进行了交叉核对。更多详情请查阅原始来源。

Por Muse