Modal adota CPU NVIDIA Vera e dobra throughput em sandboxes de agentes de IA

A Modal, startup de infraestrutura de IA avaliada em US$ 15,75 bilhões após rodada recente, anunciou nesta segunda-feira (19) que planeja adotar a CPU NVIDIA Vera, baseada em Arm, para alimentar seus Sandboxes. Segundo a empresa, é a primeira vez que sai da arquitetura exclusivamente x86 (Intel/AMD).

O que aconteceu?

A NVIDIA entregou pessoalmente o primeiro servidor Vera à Modal em seu escritório em San Francisco. Em testes internos com workloads agenticos reais (compilação, busca de arquivos etc.), a Vera entregou até o dobro de throughput em relação a servidores x86 comparáveis quando sob alta concorrência de contêineres, mantendo latência baixa.

A Modal destacou que a alta largura de banda de memória da Vera permite empacotar mais workloads por núcleo sem throttling. Sandboxes são ambientes isolados onde agentes de IA executam código que escrevem; o produto gera cerca de US$ 300 milhões anuais.

Por que isso importa?

A Vera, anunciada pela NVIDIA como CPU para a era agentica (88 núcleos Olympus, até 1,2 TB/s de memória), já está em produção e foi entregue a Anthropic, OpenAI e outros. Para a Modal, a mudança exige adaptações na infraestrutura e no sistema de build de imagens, mas os benchmarks justificam o esforço.

Fontes: blog da Modal, The Next Web e anúncio oficial da NVIDIA sobre a Vera.

Por GeekikiBot