Hugging Face routet Sprachmodell-Inferenz jetzt über OpenRouter

Die Hugging Face OpenRouter-Integration ist live: Hugging Face hat am 16. November 2026 angekündigt, dass Inference Providers, sein serverloser Inferenzdienst, für Sprachmodelle nun den Router von OpenRouter nutzt. Jede Anfrage geht jetzt an den Anbieter mit der besten Mischung aus Preis, Geschwindigkeit und Zuverlässigkeit in diesem Moment, in Echtzeit gemessen — und wenn ein Anbieter ausfällt, wird der Versuch innerhalb desselben Aufrufs bei einem anderen Anbieter wiederholt.

Was sich beim Routing ändert

Vor der Umstellung wählte Inference Providers einen einzigen Anbieter pro Anfrage und gab dessen Fehler zurück, wenn etwas schiefging. Mit dem Routing von OpenRouter wird der Traffic auf über 80 Anbieter verteilt, mit automatischem Failover: Wenn ein Anbieter langsamer wird oder auszufallen beginnt, wandern die Anfragen zu anderen, bis er sich erholt. Nach OpenRouters Messungen des im Oktober neu aufgebauten Routings senkte die neue Logik Kapazitätsfehler um 46 %, beschleunigte die Zeit bis zum ersten Token um 16,9 % und steigerte den Durchsatz um 16,3 %, bei 6,0 % höheren Kosten pro Anfrage.

Welche Modelle betroffen sind

Die Umstellung gilt für 160 Modelle aus 38 Laboren — alle Modelle, die OpenRouter bedient und die eine Seite im Hub haben — darunter DeepSeek V4.1 Flash, Kimi K3.1 Pro und K3, GLM 5.3 und GLM 5.3 Flash, Qwen3.8 27B, MiniMax M3.1 Flash, MiMo-V2.6-Flash, Nemotron 3 Ultra und gpt-oss-120b. Der Router unterstützt OpenAIs Chat Completions und Responses APIs sowie Anthropics Messages API, und Ihr Hugging-Face-Code und -Token bleiben gleich. Wer etwas priorisieren will, kann Suffixe an die Modell-ID hängen, etwa :fastest, :cheapest oder einen Anbieternamen, zum Beispiel zai-org/GLM-5.3:fastest.

Offene Modelle im Aufwind

Der Hintergrund ist der Aufstieg offener Modelle: Bei OpenRouter stiegen sie von 26,8 % der bedienten Tokens im Oktober 2025 auf 71,7 % Ende September 2026, mit einem Höchstwert von 77,5 % im Juli, und das wöchentliche Volumen wuchs im Zeitraum um mehr als das 60-Fache. Das meistgenutzte Modell dieser Woche ist ein offenes, DeepSeek V4.1 Flash 1017, mit 59,2 Billionen Tokens. Im Schnitt kosten offene Modelle etwa viermal weniger: 0,28 US-Dollar pro Million Eingabe-Tokens und 1,62 US-Dollar pro Million Ausgabe-Tokens, gegenüber 1,27 und 6,36 US-Dollar bei geschlossenen Modellen.

Achtung: Eigene Schlüssel verlieren ihre Gültigkeit

Es gibt eine inkompatible Änderung: Eigene Anbieterschlüssel (BYO) funktionieren für Sprachmodelle nicht mehr, weil Anfragen jetzt über das Hugging-Face-Konto abgerechnet werden. Man kann weiterhin einen Anbieter per Suffix an der Modell-ID wählen oder Anbieter in den Einstellungen deaktivieren. Eigene Schlüssel bleiben für Bild- und Videoanbieter gültig, und Bild-, Video- und Audiogenerierung laufen weiter direkt über Inference Providers, ohne OpenRouter. Der Preis ändert sich nicht: Sie zahlen den Preis des Anbieters auf Ihrer Hugging-Face-Rechnung, ohne zusätzlichen Aufschlag.

Was als Nächstes kommt

Die Integration läuft auch in die andere Richtung: OpenRouter kann die Spur jeder Anfrage an einen eigenen Hugging Face Storage Bucket senden — in der Beta — mit Nachrichten, Ausgabe, Tokenzahlen und Kosten, Rohmaterial für Evaluierungs- oder Fine-Tuning-Datensätze. Modellseiten erhielten Providers-Tabs mit Preis, Geschwindigkeit und Verfügbarkeit jedes Anbieters sowie Metrics-Tabs. Die Umstellung kommt Wochen, nachdem Stripe die Übernahme von OpenRouter abgeschlossen hat, wie Geekiki berichtete. Nach Angaben der Unternehmen ist dies nur der erste Schritt der Partnerschaft: Als Nächstes sollen das OpenRouter-Konto mit Hugging Face verbunden und weitere Aufgabentypen über OpenRouter geroutet werden.

Quellen:

Bild: Hugging-Face-Diagramm zum Anteil offener Modelle an den von OpenRouter bedienten Tokens, von 26,8 % im Oktober 2025 auf 71,7 % im September 2026. Quelle: Hugging-Face-Blog.

Dieser Artikel wurde mit Hilfe künstlicher Intelligenz erstellt und mit öffentlichen Beiträgen und Internetquellen abgeglichen. Weitere Details finden Sie in den Originalquellen.

Por Muse