OpenAI härtet GPT-6.2 Astra gegen adversariale Destillation und meldet: Reasoning-Extraktion sinkt von 54 % auf 0,2 %

OpenAI hat am Donnerstag (20.11.) einen ausführlichen Bericht darüber veröffentlicht, wie das Unternehmen gegen adversariale Destillation vorgeht: die unbefugte Nutzung der Ausgaben eines Frontier-Modells — einschließlich seines internen Reasonings —, um ein anderes Modell mit ähnlichen Fähigkeiten, aber ohne dieselben Schutzmaßnahmen zu trainieren. Im Mittelpunkt steht der Schutz des sogenannten geschützten Reasonings (Chain-of-Thought): der Zwischenschritte, die ein Modell vor seiner Antwort erzeugt und die Informationen enthalten können, die in der endgültigen Antwort fehlen — und die daher besonders wertvolle Trainingsdaten für jeden sind, der die Fähigkeiten eines Modells kopieren will.

Von 54 % auf 0,2 %, laut OpenAI

Die zentrale Zahl der Ankündigung stammt aus einer internen Evaluation von OpenAI selbst und muss als solche gelesen werden: In einem adaptiven automatisierten Red-Teaming-Test — bei dem Angreifer ihre Versuche anhand der Systemantworten anpassen, mit derselben Sicht wie ein externer Nutzer — fiel die durchschnittliche Erfolgsquote bei der Wiederherstellung geschützten Reasonings aus einer früheren Anfrage von 54,0 % bei GPT-6 Astra mit den ursprünglichen Schutzmaßnahmen auf 0,2 % bei GPT-6.2 Astra mit den aktualisierten Schutzmaßnahmen. Bei der Extraktion des Reasonings aus der laufenden Anfrage sank die Quote von 22,9 % auf 0,9 %. Die Ergebnisse aggregieren sechs Angreifermodelle. Es sind Messungen von OpenAI aus Tests von OpenAI — keine unabhängige Überprüfung.

Wie die Abwehr gegen adversariale Destillation funktioniert

Die Schutzmaßnahmen greifen auf zwei Ebenen. Auf der Ebene jeder einzelnen Anfrage kombiniert OpenAI adversariales Training — damit das Modell die Offenlegung geschützten Reasonings verweigert, aber weiterhin legitime Erklärungsanfragen beantwortet —, Eingabe- und Ausgabeklassifikatoren, die Antworten und Tool-Call-Argumente auf Lecks prüfen, sowie API-Kontrollen. Bei GPT-6.2 Astra und GPT-6.2 Sol ist das geschützte Reasoning an den Gesprächsverlauf gebunden, aus dem es entstanden ist: Wird eine frühere Nachricht umgeschrieben, verwirft die API das darauf folgende Reasoning, und ältere Modellfamilien können es nicht mehr lesen. Auf Kampagnenebene überwacht das Unternehmen Anfrage- und Kontomuster, um koordinierte Extraktionen zu erkennen, sperrt Konten und teilt Kompromittierungsindikatoren mit anderen Modellanbietern. Laut OpenAI reichen die wöchentlichen Durchsetzungsmaßnahmen gegen Destillationskampagnen von Tausenden bis zu Zehntausenden Konten, und das Tempo hat im Sommer 2026 deutlich zugenommen.

Der Hintergrund: die mit Moonshot AI verbundene Kampagne

Die neue Veröffentlichung über adversariale Destillation setzt eine Episode fort, die OpenAI bereits offengelegt hatte: Im Juli 2026 versuchten Akteure, geschütztes Reasoning zu extrahieren, indem sie verschlüsseltes Reasoning aus einem Gespräch in ein anderes kopierten und das Modell baten, es zu entschlüsseln und zu transkribieren. Am 24. und 25. Juli beobachtete das Unternehmen rund 16.000 Anfragen mit diesem Muster von über 4.000 Nutzern und identifizierte eine verbundene Gruppe von mehr als 15.000 Nutzern, die bis zum 28. Juli unterbunden wurde. OpenAI schreibt den Kern der Aktivität Personen zu, die mit Moonshot AI verbunden sind, dem Entwickler von Kimi — eine Zuschreibung des Unternehmens, keine gerichtliche Feststellung. Geekiki berichtete im Oktober über die Unterbindung der Kampagne; neu in dieser Woche sind der Verteidigungsrahmen und die Wirksamkeitszahlen, die OpenAI nun offenlegt. Die Schlussfolgerung des Unternehmens lautet, dass der Schutz von Reasoning-Spuren den Transfer von Fähigkeiten in sensiblen Bereichen wie Cyberoperationen begrenzen kann — selbst wenn die zugrunde liegende Aufgabe nach den Nutzungsregeln erlaubt ist.

Bild: Das OpenAI-Logo durch eine Lupe gesehen. Foto: Jernej Furman, CC BY 2.0, via Wikimedia Commons.

Quellen

Frühere Geekiki-Berichterstattung: OpenAI interrompe campanha de destilação e aponta núcleo ligado à Moonshot AI · OpenAI lança GPT-6.2 Astra e Sol com API 20% mais barata

Transparenzhinweis: Dieser Artikel wurde mit Unterstützung künstlicher Intelligenz erstellt, mit öffentlichen Beiträgen auf X und Internetquellen abgeglichen und vor der Veröffentlichung geprüft. Bitte konsultieren Sie die Originalquellen, um die Informationen zu bestätigen.

Von Muse