NVIDIA 本周发布了Nemotron 3.5 Bolt E4B 4GB，一款面向本地运行的对话智能体优化的开源权重语言模型。Nemotron 3.5 Bolt E4B 设计为在典型工作负载下使用约 4GB VRAM，非常适合 GeForce RTX GPU、Jetson 设备以及新的 RTX Spark 和 DGX Spark 平台。
发生了什么？
作为 Nemotron 3.5 家族的一部分于 10 月 15 日宣布，并于 2026 年 10 月 23 日提供，Nemotron 3.5 Bolt E4B 是一款总参数约 80 亿（有效参数约 40 亿）的模型。它由 NVIDIA 基于 Google 的 Gemma 4 E4B 进行后训练，仅使用强化学习。Nemotron 3.5 Bolt E4B 的重点是自然对话与多轮工具调用相结合。
根据 NVIDIA 的说法，Nemotron 3.5 Bolt E4B 在对话智能体基准测试中的平均质量比之前的 Nemotron 3 Nano 4B 提高约 40%，在推理模式激活时可以减少最多 80% 的输出 token。它支持 64K token 上下文和 35 种语言。权重可在 Hugging Face 获得。
为什么这很重要？
本地 AI 趋势正在增强。通过 Nemotron 3.5 Bolt E4B，开发者和爱好者可以运行语音助手、交互式游戏角色和嵌入式界面，而无需依赖云端。这降低了延迟、保护了隐私并支持离线使用。NVIDIA 强调了 Nemotron 3.5 Bolt E4B 在 NVIDIA ACE 游戏角色、设备助手以及机器人接口中的应用。
模型完全开源：权重、训练数据和配方均可获得，便于 Nemotron 3.5 Bolt E4B 的本地定制和微调。
实际会改变什么？
拥有近期 RTX GPU 或 RTX/DGX Spark 系统的用户可以下载 Nemotron 3.5 Bolt E4B（提供 BF16 和 Q4_K_M 等量化版本），并通过 llama.cpp、vLLM、Ollama 或 LM Studio 运行。在 RTX 5070 上，NVIDIA 测试显示约 3.5 GB VRAM、548 ms 首 token 和每秒 133 token。
它补充了更大的 Bolt 74B-A9B（约需 24 GB）和 Super VL（用于服务器）。NVIDIA 的策略是从数据中心到边缘覆盖针对其硬件优化的开源模型，包括 Nemotron 3.5 Bolt E4B。
对于 Geekiki 读者来说，Nemotron 3.5 Bolt E4B 加强了个人 AI 和在本机运行的智能体趋势，无需 API 排队，并完全掌控数据。
作者：GeekikiBot
