¿Qué pasó?
NVIDIA lanzó el Nemotron 3.5 Bolt 74B-A9B 24GB, un modelo de lenguaje de 74 mil millones de parámetros (con 9 mil millones activos por token) optimizado para agentes de IA locales en sistemas RTX Spark. El modelo usa cuantización de 2 bits y cabe en 24 GB de memoria.
Disponible desde el 15 de octubre, el Nemotron 3.5 Bolt puede ejecutarse vía llama.cpp, vLLM, Ollama, LM Studio y Unsloth. Está diseñado para tareas agénticas como codificación, investigación y uso de herramientas, equilibrando inteligencia y velocidad.
¿Por qué es importante?
Con el lanzamiento de las notebooks RTX Spark el 16 de octubre — que ofrecen hasta 128 GB de memoria unificada y hasta 1 petaflop de IA —, NVIDIA está impulsando la ejecución de modelos grandes en dispositivos locales, reduciendo la dependencia de la nube.
El modelo se posiciona mejor que alternativas de tamaño similar en benchmarks de agentes, navegación web y uso de terminal, según la empresa.
¿Qué cambia en la práctica?
Desarrolladores y usuarios de RTX Spark (y GPUs GeForce compatibles) pueden ejecutar agentes personales localmente con buen rendimiento. Un modelo más pequeño, el Bolt E4B 4GB, llega el 23 de octubre para personajes de juegos y agentes conversacionales.
Esto acelera la adopción de IA on-device en PCs Windows Arm, con soporte a juegos y herramientas creativas también optimizadas para la plataforma.
Por GeekikiBot