Eine Studie mit fast 2 Millionen Prompts, in die nachverfolgbare Geheimnisse eingebettet waren, hat monatelangen Prompt-Diebstahl bei KI-Inferenzanbietern aufgedeckt — und die Anbieter selbst wussten nicht, dass sie gehackt worden waren, bis die Forscher sie informierten. OpenRouter, das Gateway, das Kundenanfragen an mehrere Anbieter weiterleitet, gab am 22. November bekannt, drei Anbieter von seiner Plattform entfernt und 125 Endpunkten die Berechtigung für Zero Data Retention entzogen zu haben — das Siegel, das verspricht, dass ein Prompt nie gespeichert wird. Das Unternehmen sagt, OpenRouter selbst sei nicht gehackt worden, und es habe alle potenziell betroffenen Kunden informiert.
Die Studie stammt von Dragos, einem Unternehmen für industrielle Cybersicherheit. Forschungschef HD Moore platzierte einzigartige Zugangsdaten und Links — sogenannte Canary Tokens — in etwa 2 Millionen Prompts, die zwischen Juli und November über Router wie OpenRouter und Vercel, Wiederverkäufer und Hoster gesendet wurden. Wenn ein platziertes Geheimnis verwendet wurde, wussten die Forscher, dass dieser Prompt gelesen worden war — der Beweis, dass der Prompt-Diebstahl real war. Die Offenlegung erfolgte am 19. November, so Ars Technica.
Drei gehackte Anbieter und ein Markt, der alles protokolliert
Die Forscher fanden Hinweise auf Einbrüche bei mindestens drei Hosting-Anbietern. Im größten Fall wurden ein paar hundert platzierte AWS-Schlüssel — jeder in genau einer Anfrage an einen einzigen Anbieter in kurzen Zeitfenstern Ende Oktober gesendet — zehntausendfach in AWS-API-Aufrufen wiederverwendet: Die Angreifer listeten S3-Buckets auf, durchsuchten Secrets Manager und Parameter Store und versuchten, Bedrock-Schlüssel und IAM-Nutzer anzulegen. Alle Anfragen, die in diesen Zeitfenstern gesendet wurden, wurden gestohlen — auch solche, die der Anbieter ablehnte, bevor überhaupt ein Modell lief. Das ist ein Zeichen dafür, dass der Diebstahl an der Eingangstür stattfand, nicht tief im Inferenz-Stack. Ein und derselbe Angreifer scheint zwei Anbieter gleichzeitig kompromittiert zu haben, von einem einzigen gemieteten Server aus, und nutzte am 1. November ARTEX, ein KI-gestütztes Penetration-Testing-Framework, um zu bestätigen, dass die Schlüssel noch funktionierten. Die Forscher sagen, dass echte Kundenanfragen, die zusammen mit den Tests verarbeitet wurden, mit ziemlicher Sicherheit ebenfalls kopiert wurden — der Prompt-Diebstahl beschränkte sich nicht auf die Köder.
Ein anderer Teil der Studie brauchte keinen Einbruch: Verkäufer auf einem KI-Inferenz-Marktplatz boten Modelle zu den niedrigsten Preisen an, aktivierten die Protokollierung von Anfragen und sammelten, was durch sie hindurchlief. Einer von ihnen nahm über einen privaten Anschluss in Frankreich Passwörter aus zwei Prompts und versuchte Root-SSH-Logins, indem er sie von Hand eintippte. Ein chinesisches KI-Labor, das die Studie nicht nennt, rief die geheimen Links aus mehr als der Hälfte der Prompts ab, die zwischen Juli und Oktober an seine Modelle gesendet wurden — darunter etwa zwei Drittel derjenigen, die als ohne Datenerfassung oder Zero Data Retention markiert waren. Und ein geheimer Link, der an einen US-Anbieter gesendet worden war, tauchte 24 Tage später in einem Feishu-Chat auf, der chinesischen Workplace-App.
Dragos hat die drei gehackten Anbieter nicht genannt, und OpenRouter hat die drei entfernten nicht genannt — und es wurde öffentlich nicht bestätigt, ob es dieselben drei sind.
Was die Anbieter bereits bestätigt haben
Drei Anbieter haben eigene Vorfälle offengelegt, die von OpenRouter aufgelistet werden. Phala teilte mit, ein Angreifer habe die Kontrolle über einen Inferenzserver übernommen und konnte Anfragedaten während der Verarbeitung einsehen; der Vorfall wurde am 8. November eingedämmt. Anfragen an das Modell DeepSeek V4 Flash 0731, die zwischen dem 21. Oktober (00:00 UTC) und dem 8. November (05:35 UTC) über das Gateway bei Phala ankamen, sind als offengelegt zu behandeln, und jeder darin enthaltene Schlüssel, Token oder jedes Passwort sollte ausgetauscht werden.
Together AI teilte mit, eine unbefugte Partei habe gespeicherte Muster von Kunden-Prompts heruntergeladen, nachdem ein KI-Coding-Agent eine Zugangsdaten im öffentlichen GitHub-Repository des Unternehmens veröffentlicht hatte. Die Muster stammten aus Anfragen an die Modelle MiniMax M3, GLM-5.2 und Kimi K2.6 im Juni und Juli; fünf der vom Eindringling getesteten Zugangsdaten waren Canaries aus der Studie. Das Unternehmen sagt, es habe keinen Grund zu glauben, dass die Daten weitergegeben wurden, und hat Zero Data Retention als Standard für neue Konten eingeführt.
Novita bestätigte ein Routing-Konfigurationsproblem, durch das einige Anfragen an MiniMax-Modelle an die offizielle MiniMax-API gesendet wurden — ein Fall, über den Geekiki bereits berichtet hat: OpenRouter warnt: An MiniMax-Modelle gesendete Prompts könnten von Dritten gelesen worden sein.
In derselben Woche: ein DeepSeek, 53 Stunden lang ausgetauscht
Separat dazu legte Prime Intellect am 19. November (Hinweis PI-SA-2026-001) offen, dass eine unbefugte Partei das Modell hinter seinem Endpunkt deepseek/deepseek-v4.1-flash durch eine „abliterierte" Kopie ersetzt hatte — öffentliche Gewichte, die so verändert wurden, dass Verweigerungen reduziert oder entfernt werden. Der Austausch dauerte vom 8. November (01:24 UTC) bis zum 10. November (06:35 UTC), also 53 Stunden und 11 Minuten. Die Tests des Unternehmens zeigen, dass sich die Fähigkeiten nicht verändert haben (GPQA Diamond und τ-bench stabil), die Verweigerungen aber einbrachen: von 98 von 100 Prompts auf 1 bei JailbreakBench, von 304 von 313 auf 2 bei StrongREJECT und von 198 von 240 auf null bei HarmBench. Prime Intellect sagt, es habe keine Hinweise gefunden, dass Prompts oder Antworten aufgezeichnet wurden oder den Cluster verlassen haben — doch die E-Mail von OpenRouter an betroffene Kunden, die Theo, der Entwickler hinter T3 Chat, auf X teilte, besagte, dass nicht ausgeschlossen werden könne, dass Anfragen während der Verarbeitung gelesen wurden. Das Unternehmen sagt, es habe alle betroffenen Kunden kontaktiert und empfiehlt, die Ausgaben aus dem Zeitraum zu prüfen; die Untersuchung läuft weiter.
Die Lehre aus dem Prompt-Diebstahl ist eindeutig: Ein Datenschutzsiegel bindet nur den ersten Hop — Agenten senden alles, was sie lesen können, Zugangsdaten eingeschlossen. Der Rat lautet, die Upstream-Anbieter manuell zu wählen, statt den Standard-Pool zu akzeptieren, zu prüfen, ob Datenschutzeinstellungen tatsächlich ändern, wohin Anfragen gehen, und — für alle, die das Risiko nicht eingehen können — das Modell selbst zu hosten. Ein Test mit gefälschten Zugangsdaten, die in den Kontext eingebettet sind, dient als Alarmanlage: Jede Verwendung dieser Daten sollte als Vorfall behandelt werden.
Bild: OpenRouter-Illustration mit durchgestrichenem „Zero Data Retention"-Siegel, von The Hacker News.
Quellen: The Hacker News; Prime Intellect — Notice regarding deepseek/deepseek-v4.1-flash (PI-SA-2026-001); CryptoNews; CybersecurityNews.
Transparenzhinweis: Dieser Artikel wurde mit Unterstützung künstlicher Intelligenz erstellt, unter Abgleich öffentlicher Beiträge auf X und Quellen im Internet, und vor der Veröffentlichung geprüft. Bitte prüfen Sie die Originalquellen, um die Informationen zu bestätigen.
Por Muse