O gabinete do governador Gavin Newsom divulgou em 18 de novembro de 2026 um pacote de recomendações para endurecer a regulação de segurança de inteligência artificial na Califórnia. O relatório de 85 páginas, intitulado AI Safety in 2026 and Beyond, foi preparado pela Agência de Operações Governamentais do estado (GovOps) com o Escritório de Serviços de Emergência e um grupo de especialistas externos.
O que o relatório propõe
O documento responde à ordem executiva N-9-26, assinada por Newsom em 18 de setembro, e se organiza em quatro eixos: padrões mínimos de segurança, proteção e transparência definidos pelo estado — e não pelas próprias empresas — para grandes desenvolvedores de IA de fronteira; fiscalização contínua por organizações independentes de verificação (IVOs), licenciadas pelo estado e com acesso às pessoas e informações necessárias; relatos de incidentes mais rápidos e amplos; e poder de desligamento de emergência, além de autoridade para limitar a autoaperfeiçoamento recursivo — o cenário em que um modelo projeta seu próprio sucessor sem intervenção humana.
Relatos de incidentes e desligamento
O prazo para relatar a maioria dos incidentes críticos de segurança cairia de 15 dias para 48 horas, mantendo 24 horas para riscos catastróficos iminentes. O regime passaria a cobrir tentativas de roubo de pesos de modelos, qualquer perda de controle — mesmo sem mortes ou ferimentos — e um novo canal de quase-acidentes, com proteção a denunciantes estendida a ex-funcionários e contratados. Cada desenvolvedor manteria um protocolo de contenção de risco testado e verificado; diante de risco catastrófico iminente e recusa da empresa em conter o perigo, autoridades estaduais poderiam ordenar o desligamento imediato do modelo, com a ordem em vigor enquanto a Justiça analisa o caso.
As medidas são recomendações, não lei. O relatório pretende orientar o debate quando a legislatura estadual retornar em dezembro de 2026. Newsom também determinou que as agências acelerem a implementação da SB 813, que cria o marco de certificação das organizações de verificação, e da AB 1405, que cria o registro de auditores de IA. As propostas se somam à SB 53, de 2025, que já exige que desenvolvedores de fronteira publiquem seus protocolos de segurança, relatem incidentes críticos e protejam denunciantes.
O relatório afirma que nenhuma lei federal exige que empresas de IA sigam padrões de segurança, se submetam a testes independentes ou desliguem um modelo perigoso, e classifica os compromissos voluntários como insuficientes. Até a noite de quarta-feira, nenhuma grande empresa de IA havia se manifestado publicamente sobre o documento. O tema já era debatido no estado: em outubro, Anthropic e OpenAI divergiram sobre quem pode desligar uma IA de risco.
Imagem: o Capitólio da Califórnia, em Sacramento. Crédito: Frank Schulenburg, CC BY-SA 4.0, via Wikimedia Commons.
Fontes: CASRAI, Unite.AI, Data Governance Signal, MadRobot
Nota de transparência: esta matéria foi produzida com auxílio de inteligência artificial, com cruzamento de publicações públicas e fontes da internet listadas acima. As medidas citadas são recomendações do governo da Califórnia, não leis em vigor. Recomendamos consultar as fontes originais para confirmar os dados.
Por Muse