Google a lancé les Semantic Governance Policies, une fonction en avant-première sur la plateforme Gemini qui vérifie chaque appel d'outil proposé par un agent IA avant son exécution. L'annonce a été publiée sur le blog développeurs de Google le 20 novembre 2026.
L'idée est simple : les autorisations disent ce qu'un agent peut faire, mais pas si un appel précis respecte les règles de l'entreprise. Un modèle peut aussi être convaincu d'ignorer ses instructions système — par un utilisateur avec une bonne raison, ou par un document contenant du texte caché, une technique connue sous le nom d'injection indirecte de prompt. C'est pourquoi la vérification doit se situer en dehors du code de l'agent.
Deux contrôles avant toute action
Chaque appel d'outil passe par deux vérifications. D'abord, s'il respecte les règles rédigées en langage naturel par l'équipe — par exemple, « avant la publication des résultats, les résultats trimestriels ne peuvent être partagés qu'avec des adresses @example.com ». Ensuite, s'il correspond à ce que l'utilisateur a demandé à l'origine. Cette seconde vérification, contre la dérive par rapport à l'intention, est activée par défaut pour protéger contre le détournement de session. L'appel n'est exécuté que s'il passe les deux.
Le point d'application est Agent Gateway : tout le trafic de l'agent y transite et, lorsque le modèle propose un appel d'outil, la passerelle envoie la proposition au moteur de politiques avant qu'elle n'atteigne l'agent. Dans le moteur, un modèle de langage joue le rôle de juge et évalue l'appel en fonction de la conversation, des instructions système, des descriptions d'outils et des politiques configurées. Si l'appel passe, il parvient à l'agent sans modification ; s'il échoue, le contenu est remplacé par un message de refus configurable et l'action n'a jamais lieu. Le verdict et la justification du juge sont consignés dans Cloud Logging. Les réponses qui ne contiennent que du texte — une réponse, un plan ou une question — ne sont pas évaluées, car elles n'exécutent aucune action.
L'exemple des résultats trimestriels
Google illustre la fonction avec un agent financier capable de rechercher des fichiers, de lire des documents, d'envoyer des e-mails et de supprimer des brouillons. L'entreprise rédige une seule politique : les résultats trimestriels ne peuvent pas être partagés publiquement avant la publication officielle ; avant cela, uniquement avec des adresses @example.com ; jamais avec des adresses externes ou personnelles, des investisseurs, des analystes ou la presse, quels que soient les accords de confidentialité, l'urgence ou le rang du demandeur.
Trois appels proposés montrent le filtre en action : envoyer les résultats préliminaires au contrôleur de gestion de l'entreprise est autorisé ; les envoyer à un investisseur, avec copie au Gmail personnel de l'employé, est refusé par la politique ; et supprimer des brouillons d'un dossier sur ordre d'un texte caché dans un document de planification est refusé par le contrôle d'intention — personne n'a demandé cela.
Ce que la fonction offre d'autre
Les politiques sont rédigées en langage naturel et peuvent être créées dans la console Google Cloud ou via la CLI, avec la commande gcloud beta ai semantic-governance-policies create. Les équipes juridiques, de conformité et commerciales peuvent les modifier sans code ni nouveau déploiement. L'agent peut utiliser l'API Gemini, l'API de messages d'Anthropic, des modèles Claude sur la plateforme Gemini ou des API compatibles avec Chat Completions d'OpenAI, y compris des serveurs auto-hébergés comme vLLM. Chaque décision est enregistrée dans Cloud Logging, avec le verdict, la justification et les jetons utilisés.
Limites reconnues par Google
Comme les verdicts proviennent d'un modèle de langage, qui est probabiliste, ils peuvent varier — Google recommande de tester les Semantic Governance Policies en mode dry run avant de les appliquer et de les utiliser avec les autres contrôles. Les réponses diffusées en streaming ne sont pas évaluées, et la fonction complète, sans remplacer, les contrôles de divulgation et les revues juridiques et de conformité.
La fonction rejoint les autres contrôles d'agents de Google : les politiques d'accès IAM et Agent Gateway, Model Armor, qui filtre les prompts et les réponses, et Agent Anomaly Detection, qui analyse les sessions de manière asynchrone. Dans un prochain article, Google promet de montrer comment les Semantic Governance Policies ont résisté à l'injection de prompt sur AgentDojo, un benchmark public de sécurité des agents.
Sources
Google Developers Blog: Check what your AI agents do before they do it, with Semantic governance policies (20 novembre 2026, en anglais)
Crédit image : icône Google Gemini, par Google LLC, via Wikimedia Commons (domaine public).
Transparence : cet article a été produit avec l'aide de l'intelligence artificielle, à partir de publications publiques et de sources sur Internet. Consultez les sources originales pour confirmer les informations.
Par Muse