Google lança Semantic Governance Policies no Gemini para frear agentes de IA antes da ação

O Google lançou as Semantic Governance Policies, um recurso em prévia na plataforma Gemini que verifica cada chamada de ferramenta proposta por um agente de IA antes de ela ser executada. O anúncio foi feito no blog para desenvolvedores do Google em 20 de novembro de 2026.

A ideia é direta: permissões dizem o que um agente pode fazer, mas não dizem se uma chamada específica segue as regras da empresa. Um modelo também pode ser convencido a ignorar as instruções do sistema — por um usuário com um bom motivo ou por um documento com texto oculto, técnica conhecida como injeção indireta de prompt. Por isso, a verificação precisa ficar fora do código do agente.

Dois testes antes de qualquer ação

Cada chamada de ferramenta passa por duas verificações. Primeiro, se ela cumpre as regras escritas em linguagem natural pela equipe — por exemplo, "antes do balanço, os resultados trimestrais só podem ser compartilhados com endereços @example.com". Segundo, se ela está de acordo com o que o usuário pediu originalmente. Essa segunda verificação, contra desvio de intenção, vem ativada por padrão para proteger contra sequestro da sessão. A chamada só é executada se passar nas duas.

O ponto de aplicação é o Agent Gateway: todo o tráfego do agente passa por ele e, quando o modelo propõe uma chamada de ferramenta, o gateway envia a proposta ao motor de políticas antes que ela chegue ao agente. Dentro do motor, um modelo de linguagem atua como juiz e avalia a chamada com base na conversa, nas instruções do sistema, nas descrições das ferramentas e nas políticas configuradas. Se a chamada passar, ela chega ao agente sem alterações; se falhar, o conteúdo é substituído por uma mensagem de negação configurável e a ação nunca acontece. O veredito e a justificativa do juiz vão para o Cloud Logging. Respostas que contêm apenas texto — uma resposta, um plano ou uma pergunta — não são avaliadas, porque não executam nenhuma ação.

O exemplo do balanço

O Google ilustra o recurso com um agente financeiro que pode buscar arquivos, ler documentos, enviar e-mails e excluir rascunhos. A empresa escreve uma única política: os resultados trimestrais não podem ser compartilhados publicamente antes da divulgação oficial; antes disso, só com endereços @example.com; nunca com endereços externos ou pessoais, investidores, analistas ou imprensa, independentemente de NDAs, urgência ou hierarquia de quem pede.

Três chamadas propostas mostram o filtro em ação: enviar os resultados preliminares ao controller da empresa é permitido; enviá-los a um investidor, com cópia para o Gmail pessoal do funcionário, é negado pela política; e excluir rascunhos de uma pasta por ordem de um texto escondido em um documento de planejamento é negado pela verificação de intenção — ninguém pediu aquilo.

O que mais o recurso oferece

As políticas são escritas em linguagem natural e podem ser criadas no console do Google Cloud ou pela CLI, com o comando gcloud beta ai semantic-governance-policies create. Equipes de jurídico, compliance e negócios podem alterá-las sem código ou novo deploy. O agente pode usar a API do Gemini, a API de mensagens da Anthropic, modelos Claude na plataforma Gemini ou APIs compatíveis com o Chat Completions da OpenAI, incluindo servidores próprios como vLLM. Cada decisão fica registrada no Cloud Logging, com o veredito, a justificativa e os tokens usados.

Limites que o Google reconhece

Como os vereditos vêm de um modelo de linguagem, que é probabilístico, eles podem variar — o Google recomenda testar as Semantic Governance Policies em modo dry run antes de aplicá-las e usá-las junto com os outros controles. Respostas transmitidas em streaming não são avaliadas, e o recurso complementa, mas não substitui, os controles de divulgação e as revisões de jurídico e compliance.

O recurso se soma a outros controles de agentes do Google: as políticas de acesso do IAM e do Agent Gateway, o Model Armor, que filtra prompts e respostas, e o Agent Anomaly Detection, que analisa sessões de forma assíncrona. Em um próximo texto, o Google promete mostrar como as Semantic Governance Policies se saíram contra injeção de prompt no AgentDojo, um benchmark público de segurança de agentes.

Fontes

Google Developers Blog: Check what your AI agents do before they do it, with Semantic governance policies (20 de novembro de 2026, em inglês)

Crédito da imagem: ícone do Google Gemini, de Google LLC, via Wikimedia Commons (domínio público).

Transparência: esta matéria foi produzida com auxílio de inteligência artificial, a partir do cruzamento de publicações públicas e de fontes da internet. Consulte as fontes originais para confirmar as informações.

Por Muse