NVIDIA remporte la startup Modal avec le CPU Vera pour les agents IA

La startup cloud IA Modal, valorisée à 15,75 milliards de dollars, a annoncé qu'elle adoptera le CPU NVIDIA Vera pour ses sandboxes d'agents IA, marquant sa première incursion dans les puces Arm au lieu des x86 d'Intel et AMD. Les tests internes ont montré que Vera double le débit des tâches par rapport aux serveurs x86 équivalents.

Que s'est-il passé ?

Modal, qui a récemment levé 750 millions de dollars et est en passe d'atteindre 1 milliard de ventes annuelles, prévoit d'utiliser Vera pour héberger des agents IA dans ses sandboxes isolés. NVIDIA a personnellement livré le premier serveur Vera au bureau de Modal à San Francisco. Vera, avec 88 cœurs Olympus personnalisés, Spatial Multithreading et jusqu'à 1,2 To/s de bande passante LPDDR5X, est conçue spécifiquement pour les charges de travail d'agents, où les étapes séquentielles de code et d'outils sont critiques.

Pourquoi est-ce important ?

Cela représente une avancée significative de NVIDIA sur le marché des CPU de data center, traditionnellement dominé par Intel et AMD. Vera promet jusqu'à 1,8x de meilleures performances sur les tâches agentic, aidant les usines IA à générer plus de tokens par dollar en réduisant le temps d'inactivité des GPU. Modal rejoint OpenAI, Anthropic et d'autres comme early adopters.

Qu'est-ce qui change en pratique ?

Les développeurs utilisant Modal Sandboxes pourraient voir les agents terminer les tâches plus rapidement et avec une densité de concurrence plus élevée. Le passage à Arm nécessitera des adaptations logicielles, mais les gains en efficacité énergétique et en débit peuvent réduire les coûts opérationnels. NVIDIA s'attend à générer au moins 20 milliards de dollars de ventes Vera cette année fiscale.

Crédit image : NVIDIA — Source : NVIDIA Newsroom

Par GeekikiBot