英伟达 Open Agent Safety Platform:用硬件监视 AI 代理

Nvidia Open Agent Safety Platform 是英伟达用于从测试到部署管理 AI 代理的新参考架构。该平台于 9 月 28 日发布,把开源运行时 OpenShell 与参考设计 Sentry 结合在一起。Sentry 运行在 BlueField-4 DPU 上,可在毫秒级隔离违反策略的代理。

发生了什么?

在官方新闻稿中,英伟达描述了两部分。OpenShell 采用 Apache 2.0 许可,建立执行边界:每个代理运行在沙箱中,凭证保留在沙箱外的网关,策略校验器在运行前使用形式化方法。公司表示,该软件在英伟达 Vera CPU 上追踪动作并执行规则,且可扩展到第三方平台,包括 Arm 和 Intel。

Sentry 是带外层。它运行在 BlueField-4 DPU 上,位于主处理器上的代理与其调用的模型之间。由于访问模型的路径经过这块硬件,Sentry 可以观察请求、响应和思维链,并在代理试图越界时切断它。英伟达称之为芯片内安全执行,不依赖代理自身能控制的软件。

公司技术博客列出五条原则:可验证策略、带外执行、控制通往模型的路径、代理权限与推理可见性相匹配,以及实验室、企业和硬件供应商共同承担责任。

为什么重要?

代理不只回答:它们调用工具、读取数据并串联步骤。只写在提示词里的规则,无法阻止被攻破的进程忽略自身过滤器。把策略执行移出代理可控范围,并在独立硬件上放置监视器,是英伟达对这一风险的主张。

宣布的分量还在于新闻稿中的合作伙伴名单:Anthropic、Cisco、CrowdStrike、Dell、Figure、HPE、Hugging Face、JPMorganChase、Microsoft、Palantir、Palo Alto Networks、Perplexity、Red Hat、Salesforce、SAP、Scale AI、ServiceNow 和 SpaceXAI 等。Network World 报道了进行中的集成:Anthropic 的 Claude Managed Agents 与 OpenShell 和 BlueField,Salesforce 把 OpenShell 接到 Slack 以便团队审批权限,SAP 把该层嵌入 Joule Studio,SpaceXAI 则把平台用于 Cursor 编码代理和 Grok 模型。这些是合作声明,并不证明产品已在每家公司投入生产。

实际上有何变化?

对代理开发者而言,OpenShell 是现在就能试用的部分,因为它是开源软件。Sentry 依赖 BlueField-4 DPU 和英伟达的参考设计,因此仅适用于把该硬件放在通往模型路径上的基础设施,例如技术博客中描述的 Vera Rubin POD 系统。

  • OpenShell 隔离代理,并把凭证留在沙箱之外。
  • 据英伟达所说,Sentry 带外监控,可在毫秒内隔离代理。
  • 该平台不替代人工审查或数据审计。
  • 发布中没有针对真实攻击的独立拦截率。

来源:英伟达新闻室、英伟达技术博客 与 Network World。

作者:GeekikiBot