Microsoft a annoncé ce mardi 17 novembre l'AI Transparency Initiative, lors de Microsoft Ignite 2026, à San Francisco. Annoncée par le président-directeur général Satya Nadella, l'initiative rassemble plus de 40 organisations — dont Accenture, Adobe, KPMG, Mastercard et Volvo Cars — pour créer une approche commune et ouverte de la transparence, de la sécurité et de la gouvernance des modèles et agents d'IA, quel que soit le modèle ou le fournisseur.
Selon Microsoft, les entreprises peuvent aujourd'hui observer une grande partie de l'activité autour des modèles d'IA, mais elles ne parviennent souvent pas à reconstituer ce qui s'est passé entre une demande et un résultat — et ce manque de preuves crée des risques de sécurité, de conformité, d'audit et de responsabilité. Les agents se connectent déjà aux données, aux outils, aux identifiants et à l'infrastructure et prennent des décisions sans approbation humaine à chaque étape, tandis que les contrôles existants ne voient pas ce qui se passe à l'intérieur des modèles et ne vérifient pas de manière indépendante le récit qu'ils donnent de leur propre comportement.
Trois volets
L'initiative comporte trois volets. Premièrement, Microsoft va élargir sa participation à la SI Agent Standards Initiative du NIST (l'institut national américain des normes) et s'appuyer sur ses propres recherches pour élaborer des normes ouvertes valables pour tout le secteur. Deuxièmement, elle collaborera avec les plus de 40 organisations participantes pour créer des normes pour des systèmes d'IA responsables, vérifiables de manière indépendante et sûrs par conception. Troisièmement, elle intégrera ce travail à Microsoft AI, Microsoft Foundry et Microsoft Copilot, afin que les clients utilisent les preuves qui en résultent avec leurs outils de sécurité et de conformité — de Microsoft ou d'autres fournisseurs.
Voir, vérifier, contrôler
Le cadre proposé par Microsoft se résume en trois verbes : voir, vérifier et contrôler. Voir, c'est savoir ce qui a été demandé et autorisé à l'IA, quel modèle et quel runtime ont été utilisés, quelles données et quels outils elle a consultés et quelles actions elle a exécutées. Vérifier, c'est ne pas accepter l'agent comme seule source de vérité sur son propre comportement : les preuves doivent identifier leur origine — le modèle, le runtime ou des systèmes indépendants, comme l'identité et les politiques — pour que le récit du modèle puisse être confronté à des enregistrements observés de manière indépendante. Contrôler, c'est garder la main sur ce que les agents peuvent faire et conserver les preuves même lorsque le modèle ou le fournisseur change.
L'initiative est conçue pour fonctionner avec des modèles fermés et à poids ouverts, de n'importe quel fournisseur, afin que les équipes puissent changer le modèle derrière leurs agents sans perdre la capacité de gouverner et d'auditer leurs actions. Et Microsoft précise où se situe la responsabilité : elle reste à l'organisation — « blâmer l'IA n'est pas une réponse, et faire confiance au modèle n'est pas un contrôle », indique le communiqué.
« Pour que les contrôles de sécurité soient efficaces, chaque organisation a besoin de plus de transparence sur le modèle lui-même », a déclaré Hayete Gallot, vice-présidente exécutive de la sécurité chez Microsoft. « Avec ce travail, nous apporterons plus de transparence à tous les modèles. »
L'annonce a été faite dans le contexte du lancement de Microsoft Perception, désormais en disponibilité générale, qui rassemble des agents spécialisés pour détecter, défendre et corriger les vulnérabilités à tous les niveaux de la pile cyber. Les organisations intéressées par l'initiative peuvent s'inscrire sur aka.ms/learnmoreAItransparency. Ignite 2026 se poursuit jusqu'au 20 novembre au Moscone Center de San Francisco.
Cet article fait partie de la couverture d'Ignite 2026 par Geekiki — lisez aussi le catalogue public de plugins Copilot, lancé lors de la keynote d'ouverture.
Sources
- Microsoft and organizations across industries launch AI Transparency Initiative — Microsoft Source
- Security for the agentic era, powered by Microsoft Perception — Microsoft Security Blog
- Microsoft Launches AI Transparency Initiative for Enterprise Agents — Unite.AI
Crédit image : logo de Microsoft, via Wikimedia Commons (domaine public).
Transparence : cet article a été produit avec l'aide de l'intelligence artificielle, à partir du croisement de publications publiques et de sources sur internet. Nous recommandons de consulter les sources originales listées ci-dessus pour confirmer les détails.
Par Muse