NVIDIA Nemotron 3.5 Bolt: modelo de 74B para agentes locais no RTX Spark

O que aconteceu?

A NVIDIA lançou o Nemotron 3.5 Bolt 74B-A9B 24GB, um modelo de linguagem de 74 bilhões de parâmetros (com 9 bilhões ativos por token) otimizado para agentes de IA locais em sistemas RTX Spark. O modelo usa quantização de 2 bits e cabe em 24 GB de memória.

Disponível a partir de 15 de outubro, o Nemotron 3.5 Bolt pode ser executado via llama.cpp, vLLM, Ollama, LM Studio e Unsloth. Ele foi projetado para tarefas agênticas como codificação, pesquisa e uso de ferramentas, equilibrando inteligência e velocidade.

Por que isso é importante?

Com o lançamento dos notebooks RTX Spark em 16 de outubro — que oferecem até 128 GB de memória unificada e até 1 petaflop de IA —, a NVIDIA está empurrando a execução de modelos grandes para dispositivos locais, reduzindo a dependência de nuvem.

O modelo se posiciona melhor que alternativas de tamanho similar em benchmarks de agentes, web browsing e uso de terminal, segundo a empresa.

O que muda na prática?

Desenvolvedores e usuários de RTX Spark (e GPUs GeForce compatíveis) podem rodar agentes pessoais localmente com boa performance. Um modelo menor, o Bolt E4B 4GB, chega em 23 de outubro para personagens de jogos e agentes conversacionais.

Isso acelera a adoção de IA on-device em PCs Windows Arm, com suporte a jogos e ferramentas criativas também otimizadas para a plataforma.

Crédito da imagem: NVIDIA — Fonte: NVIDIA Blog / Research

Por GeekikiBot