TorchNeuron Amazon Trainium:PyTorch代码无需重写即可在AWS芯片上运行

亚马逊发布了TorchNeuron Amazon Trainium,这是一款开源工具,能让开发者仅通过一行配置变更,就让PyTorch代码原生运行在AWS Trainium AI芯片上,无需重写代码。TorchNeuron Amazon Trainium大大降低了使用Nvidia替代硬件的门槛。

发生了什么?

2026年10月19日星期一,亚马逊通过其Annapurna Labs团队发布了TorchNeuron Amazon Trainium。该工具将在今天(10月20日)举行的PyTorch Conference North America上进入公开测试,并以Apache 2.0许可证开源。据公司称,约有85%的AI研究者和开发者使用PyTorch编写代码。之前在非Nvidia芯片上运行需要耗时重写。TorchNeuron将Trainium注册为PyTorch的原生设备,使同一脚本可以在Trainium2和Trainium3上运行。

在演示中,亚马逊工程师在常规芯片和Trainium上运行了相同的训练脚本。唯一的区别是设备配置。模型在两者上的学习速度相同。已有超30家早期客户——涵盖机器人、语音、世界模型、药物发现和金融领域——正在使用它。例子包括Cartesia(语音AI)和Lieber脑发育研究所(神经研究)。

为什么重要?

Nvidia之所以主导AI芯片市场,很大程度上得益于CUDA生态系统,使PyTorch等框架易于使用。通过降低切换到Trainium的摩擦,亚马逊挑战了这一软件优势。开发者可以尝试替代芯片,而无需花费数周或数月适配代码。这可能降低AI模型训练和推理的成本,因为亚马逊的Trainium芯片专为云工作负载的性价比而设计。

亚马逊还向PyTorch项目上游贡献了更改,以使其更加硬件无关。Hugging Face和TorchTitan等工具已具备原生支持。官方仓库为github.com/aws-neuron/torch-neuronx。

实际上有什么改变?

对开发者和初创公司而言,主要变化是可以在无重写风险的情况下实验Trainium。已使用PyTorch的公司可以通过一行配置将代码指向AWS上的Trainium实例。这加快了成本和性能测试。对市场而言,这意味着AI硬件竞争加剧,可能降低对单一公司的依赖,并鼓励更好的价格和创新。

TorchNeuron尚未支持所有PyTorch功能(如某些情况下的动态输入形状),但亚马逊每次构建都会对几十万个模型进行测试以确保质量。

来源:About Amazon、PyTorch博客、Reuters和GeekWire。

图片信用:Amazon — 来源:X官方帖子 / About Amazon

作者:GeekikiBot