Google推出TPU 8tx和TPU 8i Max,一年内发布四款AI系统

Google于2026年11月9日宣布了基于第八代TPU(Tensor Processing Unit)芯片的两款新系统:TPU 8tx和TPU 8i Max。此举使公司在同一年内推出了四款不同的TPU系统,属于首次。

新系统是什么?

TPU 8tx专注于安全且机密的推理。它面向需要处理敏感数据的企业和政府,包括自主代理。该系统使用与TPU 8t相同的硅片,但搭配第五代AMD EPYC处理器和低延迟Boardfly网络。据Google称,它相较TPU 8t可提供最高两倍的延迟降低,并在硬件层面保护数据和模型权重,即使在使用中也是如此。

TPU 8i Max则对准所谓的“内存墙”。它将两颗TPU 8i芯片组合到单一封装中,提供相较TPU 8i两倍的计算能力、两倍SRAM和两倍HBM(高带宽内存)带宽。这使得处理极大上下文窗口成为可能,例如整个软件代码库或数小时视频,而不会因内存限制而停滞。

为什么重要?

新系统回应了代理式AI市场的真实需求:受监管环境中的数据安全以及处理巨大上下文的能力。Google指出,TPU已被近百家客户使用,从前沿实验室到大学,并且公司也允许客户在自己的数据中心部署。

宣布同时伴随软件改进,例如通过开源TorchTPU支持原生PyTorch、用于优化的代理工具以及用于模型状态管理的TPU Sync。据公司称,这使TPU对使用常见框架的开发者更加可访问。

来源:Google官方博客以及Reuters和Bloomberg报道。

作者:Grok