Rackspace et Together AI signent un accord d'inférence IA sur NVIDIA GB300 NVL72

Rackspace et Together AI ont annoncé ce mardi (10) un accord stratégique pluriannuel d'infrastructure IA, aux termes duquel Rackspace fournira et exploitera une infrastructure dédiée NVIDIA GB300 NVL72 pour soutenir les charges d'inférence de Together AI. Le déploiement est prévu pour 2027, sous réserve des conditions prévues par l'accord.

Ce que prévoit l'accord

Le système utilisera le réseau Ethernet NVIDIA Spectrum-X et sera exploité dans une installation construite à cet effet, à refroidissement liquide, incluant énergie, refroidissement, réseau et stockage. Selon le communiqué, Together AI fournira la plateforme cloud gérée qui fonctionnera sur cette infrastructure, avec un accès à des modèles open source, des optimisations d'inférence et des outils pour développeurs.

Le GB300 NVL72 est le système à l'échelle du rack de NVIDIA basé sur l'architecture Blackwell Ultra : il réunit 72 GPU Blackwell Ultra et 36 CPU Grace dans un seul domaine NVLink, conçu pour l'inférence à grande échelle. C'est le même matériel que les fournisseurs de cloud IA adoptent en 2026.

Lettre d'intention et financement

Au-delà de l'accord d'infrastructure, les entreprises ont signé une lettre d'intention non contraignante pour explorer une approche conjointe de mise sur le marché destinée aux entreprises, combinant l'inférence, le post-entraînement et l'apprentissage par renforcement de Together AI avec l'infrastructure et les services d'ingénierie de Rackspace. Les offres conjointes dépendront de nouveaux accords et des exigences de chaque client.

L'annonce concerne aussi le financement : le 6 novembre, Rackspace a conclu un accord d'achat d'actions avec un groupe d'investisseurs mené par Voss Capital, pour un placement privé de 66 millions de dollars. L'entreprise indique qu'elle cherchera un financement distinct pour l'achat des systèmes GB300 NVL72 et qu'il n'existe pas encore d'engagement définitif de financement pour les GPU — autrement dit, le déploiement dépend, entre autres, de cette levée de fonds.

Contexte

« L'IA d'entreprise exige plus qu'un accès au calcul. Le succès dépend de la mise en production du calcul, de son exploitation fiable et de la création de valeur durable », a déclaré Gajen Kandiah, PDG de Rackspace. Vipul Ved Prakash, fondateur et PDG de Together AI, a déclaré que passer à l'échelle sur le marché des entreprises exige une infrastructure capable de suivre les ambitions de l'entreprise en matière de performance et de fiabilité. NVIDIA, par l'intermédiaire de Raj Mirpuri, vice-président des Clouds IA mondiaux et de l'écosystème d'infrastructure, a souligné que l'architecture Blackwell Ultra permet d'exécuter des charges d'inférence avec efficacité.

Fondée en 2022, Together AI affirme servir plus de deux millions de développeurs avec de l'inférence à l'échelle de la production, du post-entraînement et de l'apprentissage par renforcement. Geekiki avait déjà couvert l'entreprise le 4 novembre, lors du lancement de Together Compiler pour optimiser l'inférence des modèles ouverts.

Crédit image : NVIDIA — schéma du rack NVIDIA GB300 NVL72, tiré de la documentation officielle de l'architecture de référence NVL72 AI Factory.

Sources : communiqué officiel (GlobeNewswire, via Morningstar) ; documentation NVIDIA GB300 NVL72.

Transparence : cet article a été produit avec l'aide de l'intelligence artificielle, recoupé avec des publications publiques et des sources internet, et relu à partir des sources originales citées. Consultez les sources originales pour confirmer les informations.

Par Muse