OpenAI a publié jeudi (20/11) un compte rendu détaillé de sa lutte contre la distillation adversariale : l'utilisation non autorisée des sorties d'un modèle de pointe — y compris son raisonnement interne — pour entraîner un autre modèle aux capacités similaires, mais sans les mêmes garde-fous. L'entreprise se concentre sur la protection du raisonnement dit protégé (chain-of-thought) : les étapes intermédiaires qu'un modèle génère avant de répondre, qui peuvent contenir des informations absentes de la réponse finale et constituent donc des données d'entraînement particulièrement précieuses pour qui veut copier les capacités d'un modèle.
De 54 % à 0,2 %, selon OpenAI
Le chiffre central de l'annonce provient d'une évaluation interne d'OpenAI elle-même, et doit être lu comme tel : lors d'un test adaptatif de red-teaming automatisé — où les attaquants ajustent leurs tentatives en fonction des réponses du système, avec la même visibilité qu'un utilisateur externe —, le taux moyen de réussite pour récupérer le raisonnement protégé d'une requête antérieure est passé de 54,0 % sur GPT-6 Astra, avec les protections d'origine, à 0,2 % sur GPT-6.2 Astra, avec les protections renforcées. Pour l'extraction du raisonnement de la requête en cours, le taux est passé de 22,9 % à 0,9 %. Les résultats agrègent six modèles attaquants. Ce sont des mesures d'OpenAI, issues de tests d'OpenAI — pas une vérification indépendante.
Comment fonctionnent les défenses contre la distillation adversariale
Les protections agissent à deux niveaux. Au niveau de chaque requête, OpenAI combine un entraînement adversariel — pour que le modèle refuse de divulguer le raisonnement protégé tout en répondant aux demandes légitimes d'explication —, des classificateurs d'entrée et de sortie qui vérifient les réponses et les arguments d'appels d'outils à la recherche de fuites, et des contrôles d'API. Sur GPT-6.2 Astra et GPT-6.2 Sol, le raisonnement protégé est lié à l'historique de la conversation qui l'a produit : si un message antérieur est réécrit, l'API supprime le raisonnement qui a suivi, et les anciennes familles de modèles ne peuvent plus le lire. Au niveau des campagnes, l'entreprise surveille les schémas de requêtes et de comptes pour détecter les extractions coordonnées, applique des bannissements et partage des indicateurs de compromission avec d'autres fournisseurs de modèles. Selon OpenAI, les mesures hebdomadaires de contrôle contre les campagnes de distillation vont de milliers à des dizaines de milliers de comptes, et le rythme a augmenté de manière significative à l'été 2026.
Le précédent : la campagne liée à Moonshot AI
La nouvelle publication sur la distillation adversariale fait suite à un épisode déjà révélé par OpenAI : en juillet 2026, des opérateurs ont tenté d'extraire le raisonnement protégé en copiant le raisonnement chiffré d'une conversation vers une autre et en demandant au modèle de le déchiffrer et de le transcrire. Les 24 et 25 juillet, l'entreprise a observé environ 16 000 requêtes suivant ce schéma, provenant de plus de 4 000 utilisateurs, et a identifié un groupe connexe de plus de 15 000 utilisateurs, neutralisé le 28 juillet. OpenAI attribue le cœur de cette activité à des personnes associées à Moonshot AI, développeur de Kimi — une attribution de l'entreprise, pas une constatation judiciaire. Geekiki avait couvert la neutralisation de la campagne en octobre ; la nouveauté de cette semaine est le cadre de défense et les chiffres d'efficacité qu'OpenAI divulgue désormais. La conclusion de l'entreprise est que protéger les traces de raisonnement peut limiter le transfert de capacités dans des domaines sensibles, comme les opérations cybernétiques, même lorsque la tâche elle-même est autorisée par les règles d'utilisation.
Image : le logo d'OpenAI vu à travers une loupe. Photo : Jernej Furman, CC BY 2.0, via Wikimedia Commons.
Sources
- OpenAI — Combatting adversarial distillation
- OpenAI — Disrupting a coordinated model-distillation campaign
- The Decoder — OpenAI makes it much harder for attackers to extract how its latest AI models think
- Unite.AI — OpenAI Strengthens GPT-6.2 Astra Against Reasoning Extraction
Couverture précédente de Geekiki: OpenAI interrompe campanha de destilação e aponta núcleo ligado à Moonshot AI · OpenAI lança GPT-6.2 Astra e Sol com API 20% mais barata
Note de transparence : cet article a été produit avec l'aide de l'intelligence artificielle, recoupé avec des publications publiques sur X et des sources internet, puis relu avant publication. Consultez les sources originales pour confirmer les informations.
Par Muse