NVIDIA 以 Vera CPU 签下 Modal 创业公司用于 AI 智能体

AI 云计算创业公司 Modal(估值 157.5 亿美元)宣布将采用 NVIDIA Vera CPU 用于其 AI 智能体沙箱,这是其首次从 Intel 和 AMD 的 x86 转向 Arm 芯片。内部测试显示,Vera 的任务吞吐量是等效 x86 服务器的两倍。

发生了什么?

Modal 最近融资 7.5 亿美元,年销售额有望达到 10 亿美元,计划使用 Vera 在其隔离沙箱中托管 AI 智能体。NVIDIA 亲自将第一台 Vera 服务器送至 Modal 旧金山办公室。Vera 拥有 88 个定制 Olympus 核心、Spatial Multithreading 以及最高 1.2 TB/s 的 LPDDR5X 带宽,专为智能体工作负载设计,其中序列代码和工具步骤至关重要。

为什么这很重要?

这代表 NVIDIA 在传统由 Intel 和 AMD 主导的数据中心 CPU 市场取得重大进展。Vera 在智能体任务上有望实现最高 1.8 倍的性能,帮助 AI 工厂通过减少 GPU 空闲时间生成更多 token。Modal 加入 OpenAI、Anthropic 等成为早期采用者。

实际上会发生什么变化?

使用 Modal Sandboxes 的开发者可能看到智能体更快完成任务并具有更高并发密度。转向 Arm 需要软件适配,但能效和吞吐量的提升可降低运营成本。NVIDIA 预计本财年 Vera 销售额至少达到 200 亿美元。

图像信用:NVIDIA — 来源:NVIDIA Newsroom

作者:GeekikiBot