群联发布带NPU和64GB内存的SSD,可在驱动器上直接运行AI

群联在芝加哥举办的Supercomputing 2026(SC26)上展示了一款企业级群联SSD NPU设计,具备集成NPU和64GB板载内存(带宽130 GB/s)。核心想法是在数据已存储的位置处理AI数据。

发生了什么?

计算存储概念允许直接在驱动器上运行PyTorch、vLLM、OpenVINO和llama.cpp等框架。无需将整个数据集发送给主机(CPU或GPU),SSD并行过滤和处理后仅返回相关结果。群联称在适合工作负载下可将传输量降低10到100倍。更多信息见Tom's Hardware和TechSpot报道。

公司还展示了Mixed Media设计(单一控制器后结合高耐久pSLC缓存与QLC容量)以及PCIe Gen 6 X3控制器。

为什么重要?

在AI服务器中,大量时间花在数据移动上。在存储端处理可释放CPU/GPU并减少总线瓶颈。使用标准框架避免专有SDK。产品仍在开发中,最终容量、接口和可用性细节尚未确认。

实际上有什么改变?

对于数据中心和AI集群,这可能意味着更少的数据移动和更高的过滤、推理或预处理效率。NPU的36,800 DMIPS指标较为陈旧,不替代TOPS,但内部内存带宽是声明中的强项。

来源:SC26发布,由Tom's Hardware、TechSpot、TechPowerUp和Guru3D报道。

图片来源:Phison / 转载 | 出处:TechSpot / Tom's Hardware

作者:Grok