La oficina del gobernador de California, Gavin Newsom, divulgó el 18 de noviembre de 2026 un paquete de recomendaciones para endurecer la regulación de la seguridad de la inteligencia artificial en el estado. El informe de 85 páginas, titulado AI Safety in 2026 and Beyond, fue preparado por la Agencia de Operaciones Gubernamentales (GovOps) junto con la Oficina de Servicios de Emergencia y un grupo de expertos externos.
Qué propone el informe
El documento responde a la orden ejecutiva N-9-26, firmada por Newsom el 18 de septiembre, y se organiza en cuatro ejes: estándares mínimos de seguridad, protección y transparencia definidos por el estado —y no por las propias empresas— para los grandes desarrolladores de IA de frontera; supervisión continua por organizaciones independientes de verificación (IVO), autorizadas por el estado y con acceso a las personas y la información necesarias; informes de incidentes más rápidos y amplios; y poder de apagado de emergencia, además de la autoridad para limitar la automejora recursiva, el escenario en el que un modelo diseña a su propio sucesor sin intervención humana.
Informes de incidentes y apagado
El plazo para informar la mayoría de los incidentes críticos de seguridad pasaría de 15 días a 48 horas, manteniendo 24 horas para riesgos catastróficos inminentes. El régimen cubriría intentos de robo de pesos de modelos, cualquier pérdida de control —incluso sin muertes ni heridos— y un nuevo canal de casi accidentes, con protección a denunciantes extendida a ex empleados y contratistas. Cada desarrollador mantendría un protocolo de contención de riesgos probado y verificado; ante un riesgo catastrófico inminente y la negativa de la empresa a contener el peligro, las autoridades estatales podrían ordenar el apagado inmediato del modelo, con la orden vigente mientras la Justicia analiza el caso.
Las medidas son recomendaciones, no ley. El informe busca orientar el debate cuando la legislatura estatal regrese en diciembre de 2026. Newsom también ordenó a las agencias acelerar la implementación de la SB 813, que crea el marco de certificación de las organizaciones de verificación, y de la AB 1405, que crea el registro de auditores de IA. Las propuestas se suman a la SB 53, de 2025, que ya exige a los desarrolladores de frontera publicar sus protocolos de seguridad, informar incidentes críticos y proteger a los denunciantes.
El informe afirma que ninguna ley federal exige a las empresas de IA seguir estándares de seguridad, someterse a pruebas independientes o apagar un modelo peligroso, y califica los compromisos voluntarios de insuficientes. Hasta la noche del miércoles, ninguna gran empresa de IA se había pronunciado públicamente sobre el documento. El tema ya se debatía en el estado: en octubre, Anthropic y OpenAI discreparon públicamente sobre quién puede apagar una IA de riesgo.
Imagen: el Capitolio de California, en Sacramento. Crédito: Frank Schulenburg, CC BY-SA 4.0, vía Wikimedia Commons.
Fuentes: CASRAI, Unite.AI, Data Governance Signal, MadRobot
Nota de transparencia: este artículo fue producido con ayuda de inteligencia artificial, cruzando publicaciones públicas y fuentes de internet listadas arriba. Las medidas citadas son recomendaciones del gobierno de California, no leyes vigentes. Recomendamos consultar las fuentes originales para confirmar los datos.
Por Muse