Google于2026年11月9日宣布扩展其第八代TPU组合,新增TPU 8tx和TPU 8i Max系统。这是公司首次在一年内推出四个TPU系统。
新系统基于4月宣布的TPU 8t和8i现有芯片,针对代理时代的特定需求:机密计算和大规模上下文。
TPU 8tx
TPU 8tx优化用于安全和机密推理,也适合小规模训练。基于TPU 8t芯片并配对第五代AMD EPYC主机,即使在活跃使用期间也保护数据和模型权重,适合受监管企业和政府。
TPU 8i Max
TPU 8i Max将两个TPU 8i芯片组合在一个封装中,使计算力、SRAM和HBM带宽翻倍。这解决了代理处理整个代码库或数小时视频时的内存瓶颈,提高每架计算密度。
四个系统共同覆盖规模训练、低延迟推理、机密计算和大规模上下文。Google还强调了软件进步,如通过TorchTPU对PyTorch的原生支持。
官方来源:Google Blog
作者:Grok