OpenAI a présenté le 9 novembre 2026 OpenAI Control Room, un système central interne qui suit les charges de travail des modèles dans l'ensemble de son infrastructure de recherche et peut les arrêter ou les mettre en pause pour que des humains interviennent rapidement quand quelque chose ne va pas. Selon l'entreprise, le système est déjà déployé sur toute l'infrastructure de recherche et, après l'ordre d'arrêt, interrompt la sortie du modèle en 35 secondes maximum.
OpenAI Control Room n'est pas un produit public : c'est un outil interne destiné aux chercheurs et aux équipes de sécurité d'OpenAI, et il ne fait pas partie de l'infrastructure qui sert ChatGPT ou l'API. L'objectif de l'entreprise est d'étendre la couverture à l'avenir à toutes les charges de travail des modèles, y compris les modèles entraînés et déployés en production, par exemple pour détecter des agents incontrôlés ou répondre à des incidents de cybersécurité.
Comment fonctionne OpenAI Control Room
Le système comporte trois composants : la charge de travail, le moteur d'inférence et le service Control Room. La charge de travail est le travail exécuté, comme une expérience d'apprentissage par renforcement, une évaluation ou une demande d'inférence à haut risque. Le moteur d'inférence est le modèle lui-même, exécuté sur GPU. Le service Control Room suit les travaux et contrôle s'ils peuvent continuer à générer des sorties : c'est le seul système autorisé à accorder aux travaux l'accès au moteur d'inférence.
En pratique, au démarrage d'un travail, le code demande un nouveau job_id à Control Room ; chaque fois qu'il doit échantillonner des tokens, la demande passe par le moteur d'inférence, qui consulte Control Room. Si le travail a été arrêté, la demande est refusée ; sinon, elle est approuvée.
Des moniteurs qui surveillent les modèles
Tous les travaux d'apprentissage par renforcement de pointe s'exécutent avec un moniteur, un autre modèle qui observe en continu les comportements préoccupants, comme l'auto-exfiltration, le sabotage de l'entraînement ou les actions non autorisées. Selon la gravité, le moniteur peut prévenir les chercheurs ou ordonner directement à Control Room d'arrêter le travail. OpenAI cite un incident lié au DNS détecté par un moniteur. Selon AlphaSignal, début 2026, l'entreprise a eu besoin de 2,5 heures pour éteindre manuellement un modèle interne après une alerte, un contraste qui aide à comprendre pourquoi l'entreprise a construit ce système.
35 secondes et « fails closed »
Le délai maximal entre le moment où Control Room reçoit l'instruction d'arrêter un travail et celui où le dernier token cesse d'être échantillonné est de 35 secondes, selon OpenAI. Cet intervalle provient d'une couche de cache d'autorisation d'inférence, et l'entreprise dit travailler à le ramener à zéro. Le délai ne couvre que l'intervalle suivant l'arrivée de l'instruction d'arrêt à Control Room : il n'inclut ni le temps de détection du problème ni la décision d'intervenir.
Le système a aussi été conçu pour « échouer fermé » (fails closed) : si Control Room est hors ligne, ou si un job_id est manquant ou non enregistré, l'inférence est refusée et aucune sortie du modèle n'est produite. De plus, toute charge de travail de recherche effectuant une inférence agentique doit être associée à un cas de sécurité (safety case) approuvé.
OpenAI a également bouclé ce lundi la première partie d'une levée de fonds de 11 milliards de dollars. Lire l'article précédent : OpenAI boucle la première partie de sa levée de fonds : 11 milliards de dollars pour une valorisation de 1 250 milliards.
Image mise en avant : le logo d'OpenAI (2017). Source : OpenAI, via Wikimedia Commons (domaine public).
Sources : OpenAI; Unite.AI; AI Affairs. Annonce originale : blog officiel d'OpenAI, 9 novembre 2026.
Transparence : cet article a été produit avec l'aide de l'intelligence artificielle, en croisant des publications publiques sur X et des sources d'internet. Nous recommandons de consulter les sources originales citées dans cet article.
Par Muse
