Google lanzó las Semantic Governance Policies, una función en vista previa en la plataforma Gemini que verifica cada llamada de herramienta propuesta por un agente de IA antes de que se ejecute. El anuncio se publicó en el blog para desarrolladores de Google el 20 de noviembre de 2026.
La idea es directa: los permisos dicen lo que un agente puede hacer, pero no dicen si una llamada concreta sigue las reglas de la empresa. Un modelo también puede ser convencido de ignorar las instrucciones del sistema — por un usuario con un buen motivo o por un documento con texto oculto, una técnica conocida como inyección indirecta de prompts. Por eso, la verificación tiene que quedar fuera del código del agente.
Dos controles antes de cualquier acción
Cada llamada de herramienta pasa por dos verificaciones. Primero, si cumple las reglas escritas en lenguaje natural por el equipo — por ejemplo, "antes del balance, los resultados trimestrales solo pueden compartirse con direcciones @example.com". Segundo, si está de acuerdo con lo que el usuario pidió originalmente. Esta segunda verificación, contra la desviación de la intención, viene activada por defecto para proteger contra el secuestro de la sesión. La llamada solo se ejecuta si pasa ambas.
El punto de aplicación es Agent Gateway: todo el tráfico del agente pasa por él y, cuando el modelo propone una llamada de herramienta, el gateway envía la propuesta al motor de políticas antes de que llegue al agente. Dentro del motor, un modelo de lenguaje actúa como juez y evalúa la llamada según la conversación, las instrucciones del sistema, las descripciones de las herramientas y las políticas configuradas. Si la llamada pasa, llega al agente sin cambios; si falla, el contenido se sustituye por un mensaje de denegación configurable y la acción nunca ocurre. El veredicto y la justificación del juez quedan en Cloud Logging. Las respuestas que solo contienen texto — una respuesta, un plan o una pregunta — no se evalúan, porque no ejecutan ninguna acción.
El ejemplo del balance
Google ilustra la función con un agente financiero que puede buscar archivos, leer documentos, enviar correos y eliminar borradores. La empresa escribe una sola política: los resultados trimestrales no pueden compartirse públicamente antes de la divulgación oficial; antes de eso, solo con direcciones @example.com; nunca con direcciones externas o personales, inversores, analistas o prensa, independientemente de los acuerdos de confidencialidad, la urgencia o la jerarquía de quien lo pida.
Tres llamadas propuestas muestran el filtro en acción: enviar los resultados preliminares al controller de la empresa está permitido; enviarlos a un inversor, con copia al Gmail personal del empleado, es denegado por la política; y eliminar borradores de una carpeta por orden de un texto escondido en un documento de planificación es denegado por la verificación de intención — nadie pidió eso.
Qué más ofrece la función
Las políticas se escriben en lenguaje natural y pueden crearse en la consola de Google Cloud o por CLI, con el comando gcloud beta ai semantic-governance-policies create. Los equipos de legal, compliance y negocio pueden modificarlas sin código ni un nuevo despliegue. El agente puede usar la API de Gemini, la API de mensajes de Anthropic, modelos Claude en la plataforma Gemini o APIs compatibles con Chat Completions de OpenAI, incluidos servidores propios como vLLM. Cada decisión queda registrada en Cloud Logging, con el veredicto, la justificación y los tokens usados.
Límites que Google reconoce
Como los veredictos provienen de un modelo de lenguaje, que es probabilístico, pueden variar — Google recomienda probar las Semantic Governance Policies en modo dry run antes de aplicarlas y usarlas junto con los demás controles. Las respuestas transmitidas en streaming no se evalúan, y la función complementa, pero no sustituye, los controles de divulgación y las revisiones de legal y compliance.
La función se suma a otros controles de agentes de Google: las políticas de acceso de IAM y Agent Gateway, Model Armor, que filtra prompts y respuestas, y Agent Anomaly Detection, que analiza sesiones de forma asíncrona. En un próximo texto, Google promete mostrar cómo se comportaron las Semantic Governance Policies contra la inyección de prompts en AgentDojo, un benchmark público de seguridad de agentes.
Fuentes
Google Developers Blog: Check what your AI agents do before they do it, with Semantic governance policies (20 de noviembre de 2026, en inglés)
Crédito de la imagen: icono de Google Gemini, de Google LLC, vía Wikimedia Commons (dominio público).
Transparencia: este artículo fue producido con ayuda de inteligencia artificial, a partir de publicaciones públicas y fuentes de internet. Consulta las fuentes originales para confirmar la información.
Por Muse