微软于 11 月 17 日星期二,在旧金山举行的 Microsoft Ignite 2026 大会期间宣布推出 AI Transparency Initiative。该倡议由董事长兼首席执行官 Satya Nadella 宣布,汇集了 40 多家组织——包括埃森哲、Adobe、毕马威、万事达卡和沃尔沃汽车——旨在为 AI 模型与智能体建立一套通用、开放的透明度、安全与治理方法,无论模型或供应商如何。
据微软介绍,企业如今能够观察到 AI 模型周围的大部分活动,却常常无法还原从请求到结果之间发生的事情——这种证据缺口带来了安全、合规、审计与问责方面的风险。智能体已经接入数据、工具、凭证与基础设施,并在每一步都无需人工批准即可采取行动,而现有控制措施既看不到模型内部发生的事情,也无法独立核实模型对其自身行为的描述。
三个组成部分
该倡议由三个部分组成。第一,微软将扩大其在美国国家标准与技术研究院(NIST)SI Agent Standards Initiative 中的参与,并结合自身研究,制定全行业开放的 AI 透明度、安全与治理标准。第二,微软将与 40 多家参与组织合作,制定负责任、可独立验证、设计上安全的 AI 系统标准。第三,微软将把这项工作融入 Microsoft AI、Microsoft Foundry 与 Microsoft Copilot,让客户能够将由此产生的证据用于其安全与合规工具——无论这些工具来自微软还是其他供应商。
看见、验证、控制
微软提出的框架可以概括为三个动词:看见、验证、控制。看见,是指了解 AI 接到了什么请求与授权、使用了哪个模型与运行时、访问了哪些数据与工具、采取了哪些行动。验证,是指不把智能体当作其自身行为的唯一真相来源:证据应当标明来源——模型、运行时,或身份与策略等独立系统——以便将模型的说法与独立观察到的记录进行核对。控制,是指始终掌握智能体被允许做什么,并在模型或供应商变更时仍保留证据。
该倡议旨在适用于任何供应商的封闭模型与开放权重模型,让团队可以在更换智能体背后的模型时,仍保留治理与审计其行为的能力。微软同时明确了责任归属:责任仍在组织一方——公告称,“把问题归咎于 AI 不是答案,‘相信模型’也不是控制措施”。
微软安全执行副总裁 Hayete Gallot 表示:“要让安全控制措施真正有效,每个组织都需要对模型本身有更高的透明度。通过这项工作,我们将为所有模型带来更高的透明度。”
该倡议是在 Microsoft Perception 正式发布之际宣布的。Microsoft Perception 汇集了专业智能体,可在网络安全堆栈的各个层面发现、防御并修复漏洞。有兴趣参与该倡议的组织可在 aka.ms/learnmoreAItransparency 注册。Ignite 2026 将持续至 11 月 20 日,在旧金山莫斯康展览中心举行。
本文是 Geekiki 对 Ignite 2026 报道的一部分——另请阅读在开幕主题演讲中发布的 Copilot 插件公共目录。
来源
- Microsoft and organizations across industries launch AI Transparency Initiative — Microsoft Source
- Security for the agentic era, powered by Microsoft Perception — Microsoft Security Blog
- Microsoft Launches AI Transparency Initiative for Enterprise Agents — Unite.AI
图片来源:微软标志,来自 Wikimedia Commons(公共领域)。
透明度声明:本文在人工智能的协助下,基于公开帖文与互联网来源的交叉核对完成。建议查阅上方列出的原始来源以确认细节。
作者:Muse