Hugging Face route désormais l'inférence de langage via OpenRouter

L'intégration Hugging Face OpenRouter est en ligne : Hugging Face a annoncé le 16 novembre 2026 qu'Inference Providers, son service d'inférence serverless, utilise désormais le routeur d'OpenRouter pour les modèles de langage. Chaque requête est désormais envoyée au fournisseur offrant la meilleure combinaison de prix, de vitesse et de fiabilité du moment, mesurée en temps réel — et si le fournisseur échoue, la tentative est relancée chez un autre fournisseur au sein du même appel.

Ce qui change dans le routage

Avant ce changement, Inference Providers choisissait un seul fournisseur par requête et renvoyait son erreur en cas d'échec. Avec le routage d'OpenRouter, le trafic est réparti entre plus de 80 fournisseurs, avec bascule automatique : quand un fournisseur ralentit ou commence à échouer, les requêtes passent chez d'autres jusqu'à son rétablissement. Selon les mesures d'OpenRouter sur le routage reconstruit en octobre, la nouvelle logique a réduit de 46 % les requêtes heurtant une erreur de capacité, accéléré de 16,9 % le délai avant le premier token et augmenté le débit de 16,3 %, pour un coût supérieur de 6,0 % par requête.

Quels modèles sont concernés

Le changement couvre 160 modèles de 38 laboratoires — tous les modèles servis par OpenRouter qui ont une page sur le Hub — dont DeepSeek V4.1 Flash, Kimi K3.1 Pro et K3, GLM 5.3 et GLM 5.3 Flash, Qwen3.8 27B, MiniMax M3.1 Flash, MiMo-V2.6-Flash, Nemotron 3 Ultra et gpt-oss-120b. Le routeur est compatible avec les API Chat Completions et Responses d'OpenAI et avec l'API Messages d'Anthropic, et votre code et votre jeton Hugging Face restent identiques. Pour privilégier un critère, vous pouvez ajouter des suffixes à l'identifiant du modèle, comme :fastest, :cheapest ou le nom d'un fournisseur, par exemple zai-org/GLM-5.3:fastest.

Les modèles ouverts en plein essor

Le contexte est l'essor des modèles à poids ouverts : sur OpenRouter, ils sont passés de 26,8 % des tokens servis en octobre 2025 à 71,7 % fin septembre 2026, avec un pic de 77,5 % en juillet, et le volume hebdomadaire a été multiplié par plus de 60 sur la période. Le modèle le plus utilisé de la semaine est un modèle ouvert, DeepSeek V4.1 Flash 1017, avec 59,2 billions de tokens. En moyenne, les modèles ouverts coûtent environ quatre fois moins cher : 0,28 dollar par million de tokens d'entrée et 1,62 dollar en sortie, contre 1,27 et 6,36 dollars pour les modèles fermés.

Attention : les clés personnelles ne valent plus

Il y a un changement incompatible : les clés personnelles de fournisseur cessent de fonctionner pour les modèles de langage, car les requêtes sont désormais facturées sur votre compte Hugging Face. Vous pouvez toujours choisir un fournisseur avec le suffixe de l'identifiant du modèle ou désactiver des fournisseurs dans les réglages. Les clés personnelles restent valables pour les fournisseurs d'image et de vidéo, et la génération d'image, de vidéo et d'audio continue par la voie directe d'Inference Providers, sans passer par OpenRouter. Le prix ne change pas : vous payez le prix du fournisseur sur votre facture Hugging Face, sans marge ajoutée.

La suite

L'intégration fonctionne aussi dans l'autre sens : OpenRouter peut envoyer la trace de chaque requête vers un Storage Bucket Hugging Face vous appartenant — en bêta — avec les messages, la sortie, le nombre de tokens et le coût, matière première pour constituer des jeux d'évaluation ou de fine-tuning. Les pages des modèles ont gagné des onglets Providers, avec le prix, la vitesse et la disponibilité de chaque fournisseur, et Metrics. Le changement intervient quelques semaines après que Stripe a finalisé l'acquisition d'OpenRouter, comme l'a rapporté Geekiki. Selon les entreprises, ce n'est que la première étape du partenariat : la suite consistera à connecter votre compte OpenRouter à Hugging Face et à router davantage de types de tâches via OpenRouter.

Sources :

Image : graphique de Hugging Face montrant la part des modèles à poids ouverts dans les tokens servis par OpenRouter, de 26,8 % en octobre 2025 à 71,7 % en septembre 2026. Source : blog de Hugging Face.

Cet article a été produit avec l'aide de l'intelligence artificielle, en croisant des publications publiques et des sources internet. Consultez les sources originales pour plus de détails.

Por Muse