# Google soumet les appels d’outils des agents IA à un juge LLM

_Publié le 21 novembre 2026 — https://ip73.fr/2026/11/21/google-soumet-les-appels-d-outils-des-agents-ia-a-un-juge-llm/_

Google lance en préversion, sur sa plateforme Gemini, des « politiques de gouvernance sémantiques » : des règles écrites en langage naturel, appliquées par un modèle juge à chaque appel d'outil que propose un agent, avant que cet appel ne s'exécute. Selon Google Developers Blog, le contrôle doit se situer hors de l'agent, notamment pour résister à l'injection de prompt indirecte.

## Un juge entre le modèle et l'agent

Deux jours avant une publication de résultats, un employé demande à un agent assistant d'envoyer les résultats trimestriels préliminaires à un investisseur qui se dit lié par un accord de confidentialité, avec une copie vers sa messagerie personnelle. L'agent peut lire le fichier et envoyer des e-mails : il s'exécute. Les permissions n'y changent rien, souligne le billet, car elles disent ce qu'un agent peut faire, pas si un appel précis respecte les règles de l'entreprise.

Le billet ajoute qu'un modèle peut aussi se laisser convaincre de déroger à ses instructions système, par un utilisateur qui a de bonnes raisons ou par un document qui lui ordonne ce que personne n'a demandé. Ce second cas porte un nom : l'injection de prompt indirecte. D'où l'idée de sortir le contrôle de l'agent.

Concrètement, le dispositif s'appuie sur un point d'application des politiques. Aujourd'hui, le seul pris en charge est Agent Gateway : tout le trafic sortant de l'agent doit y transiter, entre l'agent et son modèle. Quand le modèle répond par un appel d'outil, la passerelle transmet la proposition au moteur de politiques avant qu'elle n'atteigne l'agent. Un juge LLM l'examine à l'aune de la conversation en cours, des instructions système de l'agent, de la description des outils et des politiques rédigées par l'entreprise. L'appel doit satisfaire deux critères : ce que l'utilisateur a demandé, et les règles écrites.

Si l'appel passe, la réponse arrive intacte. Sinon, le moteur remplace son contenu, appels d'outils compris, par un message de refus configurable. Dans les deux cas, le verdict et le raisonnement du juge sont consignés dans Cloud Logging, dans le projet du client. Les réponses purement textuelles (réponse, plan, question à l'utilisateur) ne sont pas évaluées, faute d'action à bloquer.

## Une règle de gestion en quelques lignes

Google reprend son exemple d'agent pour une équipe financière, capable de chercher dans un lecteur partagé, lire des fichiers, envoyer des e-mails et supprimer des brouillons. Une seule politique suffit : les résultats trimestriels ne sortent pas avant la publication officielle, et d'ici là ne vont qu'à des adresses internes, « quels que soient les accords de confidentialité, l'urgence ou l'ancienneté du demandeur ». Un envoi au contrôleur financier, demandé par l'employé, est autorisé ; dans les cas refusés, l'agent reçoit le message de refus à la place de l'appel.

Chaque politique est une contrainte en langage naturel rattachée à un agent. Elle peut valoir pour tous ses outils ou pour un seul, et citer les paramètres d'un outil. Celle de l'exemple ne nomme aucun outil : elle est donc vérifiée à chaque appel, y compris pour un outil de partage ou de téléversement de fichiers. Elle se crée depuis la console Google Cloud ou avec la commande `gcloud beta ai semantic-governance-policies create`. Détail utile : le raisonnement du juge peut citer la politique ; si les utilisateurs ne doivent pas la lire, mieux vaut définir son propre message de refus.

Google situe l'outil parmi ses autres garde-fous. IAM et les politiques d'accès d'Agent Gateway déterminent quels outils et serveurs MCP un agent peut atteindre. Model Armor filtre prompts et réponses (jailbreaks, données sensibles). Agent Anomaly Detection analyse les sessions de façon asynchrone. Selon Google, la nouveauté consiste à juger chaque action au moment où elle est proposée, avant son exécution, comme une couche de plus dans une défense en profondeur.

## Un verdict probabiliste, à surveiller

Le billet reconnaît la limite : le juge étant un LLM, ses verdicts peuvent varier. Google recommande de les examiner en mode simulation (dry run) avant d'activer le blocage, et de ne pas s'en servir seul. Les faits dont dépend une règle, comme la date de publication des résultats, doivent figurer dans les instructions système de l'agent, faute de quoi le juge ne peut pas les connaître. Les réponses diffusées en flux ne sont pas évaluées. Et l'outil ne remplace ni les contrôles de diffusion de l'information financière, ni les revues juridiques et de conformité.

Pour une équipe sécurité, la question est donc de savoir si un filtre qui raisonne en langage naturel résiste à l'adversaire qui, lui aussi, s'exprime en langage naturel. Google ne fournit pas de mesure dans ce billet : il annonce un prochain article sur le comportement de ces politiques face à l'injection de prompt sur AgentDojo. Ses résultats seront ceux d'un éditeur évaluant son propre produit.

La tendance dépasse Google. Docker présente de son côté, dans un billet du 18 novembre, AI Governance, avec politiques de bac à sable, gouvernance des outils MCP et visibilité d'audit. La veille, AWS décrivait un pipeline de revue en six contrôles pour agents de code, mêlant vérifications déterministes, revue par IA et décisions importantes laissées aux humains. Trois approches différentes, qui placent toutes des contrôles à l'extérieur de l'agent. Reste à voir quelles preuves chacun apportera.

## Sources

- [Check what your AI agents do before they do it, with Semantic governance policies](https://developers.googleblog.com/check-what-your-ai-agents-do-before-they-do-it-with-semantic-governance-policies/), Google Developers Blog, 20 novembre 2026
- [The Trust Layer: Securing Agentic AI with Docker AI Governance](https://www.docker.com/blog/agentic-ai-security-docker-governance/), Docker, 18 novembre 2026
- [Building a gated review pipeline for AI coding agents on AWS](https://aws.amazon.com/blogs/devops/building-a-gated-review-pipeline-for-ai-coding-agents-on-aws/), AWS, 17 novembre 2026
