谷歌在 Gemini 平台推出语义治理策略,在 AI 智能体行动前进行拦截

谷歌推出了语义治理策略(Semantic Governance Policies),这是 Gemini 平台上的一项预览功能,可在 AI 智能体提议的每一次工具调用执行之前进行检查。该消息于 2026 年 11 月 20 日发布在谷歌开发者博客上。

思路很直接:权限只能说明智能体可以做什么,却不能判断某一次具体调用是否符合企业规则。模型还可能被说服而违背系统指令——可能是出于善意的用户,也可能是带有隐藏文本的文档,这种手法被称为间接提示注入。因此,这道检查必须放在智能体代码之外。

行动前的两道检查

每一次工具调用都要通过两道检查。第一,是否符合团队用自然语言写下的规则——例如“财报发布前,季度业绩只能分享给 @example.com 的地址”。第二,是否与用户最初的要求一致。第二项针对意图偏移的检查默认开启,用于防范会话劫持。只有通过两项检查,调用才会被执行。

执行点与判定方式

执行点是 Agent Gateway:智能体的所有流量都经过它,当模型提议一次工具调用时,网关会先把提议发送给策略引擎,再交给智能体。在引擎内部,一个语言模型担任评判者,根据对话记录、系统指令、工具描述和已配置的策略来评估调用。如果通过,调用原样送达智能体;如果未通过,内容会被替换为一条可配置的拒绝消息,操作不会执行。裁决结果和评判理由都会记录到 Cloud Logging 中。仅包含文本的回复(例如答案、计划或反问)不会被评估,因为它们不执行任何操作。

财报示例

谷歌用一个财务智能体来说明这项功能:它可以搜索文件、阅读文档、发送邮件和删除草稿。公司只写了一条策略:季度业绩在正式发布前不得公开分享;发布前只能分享给 @example.com 的地址;无论是否存在保密协议、是否紧急或请求者职级如何,都不得发送给外部或个人地址、投资者、分析师或媒体。

三项提议的调用展示了过滤机制:把初步业绩发送给公司财务总监是被允许的;发送给投资者并抄送员工的个人 Gmail 会被策略拒绝;而根据一份规划文档中隐藏文本的指令去删除某个文件夹中的草稿,则会被意图检查拒绝——没有人要求这样做。

功能的其他方面

策略用自然语言编写,可以在 Google Cloud 控制台中创建,也可以通过命令行创建,命令为 gcloud beta ai semantic-governance-policies create。法务、合规和业务团队无需编写代码或重新部署即可修改策略。智能体可以通过 Gemini API、Anthropic Messages API、Gemini 平台上的 Claude 模型,或与 OpenAI 兼容的 Chat Completions API 调用模型,包括 vLLM 等自托管服务器。每一次决策都会记录在 Cloud Logging 中,包含裁决结果、理由和所用 token 数量。

谷歌承认的局限

由于裁决来自语言模型,而语言模型具有概率性,裁决结果可能有所不同——谷歌建议先在试运行(dry run)模式下测试语义治理策略,再正式执行,并与其他控制措施配合使用。流式传输的回复不会被评估,该功能是对披露控制和法务合规审查的补充,而非替代。

这项功能加入了谷歌其他的智能体控制措施:IAM 与 Agent Gateway 的访问策略、用于筛查提示词和回复的 Model Armor,以及异步分析会话的 Agent Anomaly Detection。谷歌表示,将在后续文章中展示语义治理策略在 AgentDojo(一个公开的智能体安全基准)上对抗提示注入的表现。

来源

Google Developers Blog: Check what your AI agents do before they do it, with Semantic governance policies(2026 年 11 月 20 日)

图片来源:Google Gemini 图标,作者 Google LLC,来自 Wikimedia Commons(公有领域)。

透明度声明:本文在人工智能的协助下,基于公开帖文和互联网来源撰写而成。请查阅原始来源以确认相关信息。

作者:Muse