ZStack 于 2026 年 11 月 4 日宣布开源 GPUWorks,这是一款面向企业的 AI 推理平台,采用 Apache 2.0 许可证。其理念易于概括,但在实践中颇具雄心:无需预先部署 Kubernetes 集群,只需一条命令即可安装,并管理大规模 GPU 集群。
平台如何运作
据该公司介绍,该平台仅 40 MB 出头,可在 60 秒内部署。在 ZStack 自行公布的实体硬件测试中——因此尚无独立验证——一台 GPUWorks 服务器管理了 1,003 台 GPU 服务器,在 4 分钟内启动了 500 多个推理副本,达到每秒 69,000 个 token,仅使用 9 个 CPU 核心和 1.6 GB 内存。
另一个亮点是多个大型模型共享同一 GPU 资源池,支持优先级、空闲释放和定时轮换策略。ZStack 还称,唤醒休眠模型的速度比冷启动快约 200 倍:在 8 块 H20 GPU 上,原本需要 16 至 17.5 分钟的冷启动在使用 L1 内存后可缩短至约 4 秒,而 DeepSeek-V4.1-Flash 最快只需 3.6 秒即可恢复。
其兼容性具有异构特点:该平台支持 NVIDIA 和 AMD 的 GPU,以及 Ascend、T-Head PPU 和 Hygon DCU 等中国芯片,覆盖裸金属、虚拟机和云容器。近 400 个模型和 1,000 多种启动配置被打包为可复用的配置文件,并提供显存估算,以减少手动调优。
图片来源:ZStack,经由 GlobeNewswire。
来源:ZStack 经由 GlobeNewswire 发布的公告,以及 github.com/flitai-io/gpuworks 上的代码库。
透明度声明:本文借助人工智能辅助制作,并交叉核对了 X 上的公开帖文和网络来源。请查阅原始来源以确认细节。
作者:Muse