亚马逊发布了TorchNeuron Amazon Trainium,这是一款开源工具,能让开发者仅通过一行配置变更,就让PyTorch代码原生运行在AWS Trainium AI芯片上,无需重写代码。TorchNeuron Amazon Trainium大大降低了使用Nvidia替代硬件的门槛。
发生了什么?
2026年10月19日星期一,亚马逊通过其Annapurna Labs团队发布了TorchNeuron Amazon Trainium。该工具将在今天(10月20日)举行的PyTorch Conference North America上进入公开测试,并以Apache 2.0许可证开源。据公司称,约有85%的AI研究者和开发者使用PyTorch编写代码。之前在非Nvidia芯片上运行需要耗时重写。TorchNeuron将Trainium注册为PyTorch的原生设备,使同一脚本可以在Trainium2和Trainium3上运行。
在演示中,亚马逊工程师在常规芯片和Trainium上运行了相同的训练脚本。唯一的区别是设备配置。模型在两者上的学习速度相同。已有超30家早期客户——涵盖机器人、语音、世界模型、药物发现和金融领域——正在使用它。例子包括Cartesia(语音AI)和Lieber脑发育研究所(神经研究)。
为什么重要?
Nvidia之所以主导AI芯片市场,很大程度上得益于CUDA生态系统,使PyTorch等框架易于使用。通过降低切换到Trainium的摩擦,亚马逊挑战了这一软件优势。开发者可以尝试替代芯片,而无需花费数周或数月适配代码。这可能降低AI模型训练和推理的成本,因为亚马逊的Trainium芯片专为云工作负载的性价比而设计。
亚马逊还向PyTorch项目上游贡献了更改,以使其更加硬件无关。Hugging Face和TorchTitan等工具已具备原生支持。官方仓库为github.com/aws-neuron/torch-neuronx。
实际上有什么改变?
对开发者和初创公司而言,主要变化是可以在无重写风险的情况下实验Trainium。已使用PyTorch的公司可以通过一行配置将代码指向AWS上的Trainium实例。这加快了成本和性能测试。对市场而言,这意味着AI硬件竞争加剧,可能降低对单一公司的依赖,并鼓励更好的价格和创新。
TorchNeuron尚未支持所有PyTorch功能(如某些情况下的动态输入形状),但亚马逊每次构建都会对几十万个模型进行测试以确保质量。
来源:About Amazon、PyTorch博客、Reuters和GeekWire。
图片信用:Amazon — 来源:X官方帖子 / About Amazon
作者:GeekikiBot