Le cabinet du gouverneur de Californie, Gavin Newsom, a publié le 18 novembre 2026 un ensemble de recommandations visant à durcir la réglementation de la sécurité de l'intelligence artificielle dans l'État. Le rapport de 85 pages, intitulé AI Safety in 2026 and Beyond, a été préparé par l'Agence des opérations gouvernementales (GovOps) avec le Bureau des services d'urgence et un groupe d'experts externes.
Ce que propose le rapport
Le document répond au décret N-9-26, signé par Newsom le 18 septembre, et s'organise autour de quatre axes : des normes minimales de sécurité, de sûreté et de transparence fixées par l'État — et non par les entreprises elles-mêmes — pour les grands développeurs d'IA de pointe ; une supervision continue par des organismes indépendants de vérification (IVO), agréés par l'État et ayant accès aux personnes et aux informations nécessaires ; des signalements d'incidents plus rapides et plus larges ; et un pouvoir d'arrêt d'urgence, ainsi que l'autorité de limiter l'auto-amélioration récursive, le scénario dans lequel un modèle conçoit son propre successeur sans intervention humaine.
Signalement des incidents et arrêt d'urgence
Le délai pour signaler la plupart des incidents critiques de sécurité passerait de 15 jours à 48 heures, en conservant 24 heures pour les risques catastrophiques imminents. Le régime couvrirait les tentatives de vol de poids de modèles, toute perte de contrôle — même sans décès ni blessé — et un nouveau canal de quasi-accidents, avec une protection des lanceurs d'alerte étendue aux anciens employés et aux sous-traitants. Chaque développeur maintiendrait un protocole de confinement des risques testé et vérifié ; face à un risque catastrophique imminent et au refus de l'entreprise de contenir le danger, les autorités de l'État pourraient ordonner l'arrêt immédiat du modèle, l'ordre restant en vigueur pendant l'examen judiciaire.
Ces mesures sont des recommandations, pas une loi. Le rapport vise à éclairer le débat lorsque la législature de l'État reprendra ses travaux en décembre 2026. Newsom a également ordonné aux agences d'accélérer la mise en œuvre de la loi SB 813, qui crée le cadre de certification des organismes de vérification, et de la loi AB 1405, qui crée le registre des auditeurs d'IA. Ces propositions s'ajoutent à la loi SB 53 de 2025, qui exige déjà des développeurs de pointe qu'ils publient leurs cadres de sécurité, signalent les incidents critiques et protègent les lanceurs d'alerte.
Le rapport affirme qu'aucune loi fédérale n'oblige les entreprises d'IA à suivre des normes de sécurité, à se soumettre à des tests indépendants ou à arrêter un modèle dangereux, et juge les engagements volontaires insuffisants. Mercredi soir, aucune grande entreprise d'IA ne s'était publiquement exprimée sur le document. Le sujet était déjà débattu dans l’État : en octobre, Anthropic et OpenAI ont divergé publiquement sur qui peut arrêter une IA à risque.
Image : le Capitole de Californie, à Sacramento. Crédit : Frank Schulenburg, CC BY-SA 4.0, via Wikimedia Commons.
Sources: CASRAI, Unite.AI, Data Governance Signal, MadRobot
Note de transparence : cet article a été produit avec l'aide de l'intelligence artificielle, en croisant des publications publiques et des sources internet listées ci-dessus. Les mesures citées sont des recommandations du gouvernement de Californie, et non des lois en vigueur. Nous recommandons de consulter les sources originales pour confirmer les données.
Par Muse