发生了什么？
NVIDIA推出了Nemotron 3.5 Bolt 74B-A9B 24GB，一个740亿参数的语言模型（每token激活90亿参数），针对RTX Spark系统上的本地AI代理进行了优化。该模型使用2比特量化，可装入24GB内存。
从10月15日起可用，Nemotron 3.5 Bolt可通过llama.cpp、vLLM、Ollama、LM Studio和Unsloth运行。它专为编码、研究和工具使用等代理任务设计，平衡智能与速度。
为什么这很重要？
随着RTX Spark笔记本于10月16日上市——提供高达128GB统一内存和高达1 petaflop的AI算力——NVIDIA正在将大模型执行推向本地设备，减少对云端的依赖。
根据公司说法，该模型在代理、网页浏览和终端使用基准测试中优于类似规模的替代方案。
实践中会有什么变化？
开发者和RTX Spark用户（以及兼容的GeForce GPU）可以在本地以良好性能运行个人代理。较小的模型Bolt E4B 4GB将于10月23日推出，用于游戏角色和对话代理。
这加速了Windows Arm PC上的设备端AI采用，游戏和创意工具也针对该平台进行了优化。
作者：GeekikiBot
