Cerebras 于 11 月 16 日星期一推出了 Tungsten,这是一种语言与编译器,让开发者能够以高级语言编程 Wafer-Scale Engine,且不牺牲性能。与之同步推出的还有 Aviary,一组用该语言编写的高性能科学应用与教程。此次发布正值在芝加哥举行的超级计算大会 SC26 期间。
Tungsten 改变了什么
Wafer-Scale Engine 是一台数据流机器,拥有 90 万个核心、本地内存和晶圆上的通信网络。此前,为其编程需要把硬件功能暴露为内部函数,任何非标量程序几乎都要按汇编级别编写,手动配置描述符、任务和网络路由。Tungsten 弥合了这一鸿沟:它的记法接近算法的数学形式,而编译器内置了完整的架构模型,把代码映射到访问模式寄存器、事件驱动任务、网络调用和带循环的指令上。由于编译器负责这些分配决策,之后重构代码就变成一次编辑,而非重写。
由 AI 智能体编写的模拟
本次发布的中心演示是一段 particle-in-cell 等离子体模拟,全部由一个编程智能体编写。一名研究人员与一个智能体在聊天窗口中工作了约两周:智能体根据已发表的算法构建代码,对照开源代码 XOOPIC 验证参考实现,编写了测试、图表和文档,并修复了自己的错误。该模拟在 98% 的晶圆上运行,完整执行中以每秒 7,200 个时间步推进了 6,000 万个粒子,即单系统每秒 4,300 亿次粒子更新。
Aviary 与数据
据 Cerebras 称,Aviary 汇集了在其计算领域全球最快的若干代码:SNAP(核辐射输运代码的标准参照)在单个 CS-4 上达到 1.6 PFLOP/s,超过了 El Capitan 超级计算机上 10,800 个 GPU 的表现;HPCG(用于按真实稀疏负载排名超级计算机的基准)在单个系统上达到 1.04 PFLOP/s;晶圆级分子动力学比全球最大的超级计算机之一 Frontier 快 748 倍。同一段 Tungsten 代码既可运行于单个晶圆,也可运行于集群——该公司的全球海啸模拟使用了 64 个晶圆,部署规模可达 2,048 个系统。一个把 AI 模型与物理模拟(作为世界模型)耦合的设计优化器即将加入 Aviary。
如何获取
Tungsten 与 Aviary 已在 Cerebras Labs(labs.cerebras.ai)上线,SDK 处于研究预览阶段。这些应用源自与 Sandia、Lawrence Livermore 和 Los Alamos 国家实验室在 NNSA 先进存储技术项目下的合作,一项 2024 年 Gordon Bell 奖入围工作已使用了 Tungsten 的早期版本。Cerebras 正在 SC26 展位上展示这一新品。
图片:由 AI 智能体使用 Tungsten 编写的等离子体 particle-in-cell 模拟可视化。图片来源:Cerebras Systems。
来源
- Cerebras — High-level code, wafer-scale performance
- Unite.AI — Cerebras Releases Tungsten for High-Level Wafer-Scale Programming
透明度说明:本文在人工智能的协助下,基于公开帖文和网络资料撰写,并经过编辑审核。请查阅原始来源以确认相关信息。
作者:Muse