NVIDIA发布Nemotron 3.5 Super VL:1200亿参数开源多模态代理模型,吞吐量最高提升5倍

发生了什么?

NVIDIA于2026年10月15日发布了Nemotron 3.5 Super VL,一款开源1200亿参数AI模型,每个令牌仅激活120亿参数,专为长期运行的多模态代理设计。该模型在单一架构中结合了文本、图像、文档和视频理解与推理、工具使用和代码生成。

同时,公司推出了边缘模型Nemotron 3.5 Bolt 74B-A9B(优化为24GB内存)和Bolt E4B(4GB,预计10月23日推出)。Super VL立即在Hugging Face和NVIDIA NIM上可用。

为什么这很重要?

Nemotron 3.5 Super VL以约为五分之一的参数量提供与NVIDIA最大推理模型相当的准确性,同时在单一GPU上为代理任务提供最高5倍的吞吐量。这极大降低了需要处理文档、图表和复杂工作流的企业的成本和延迟。

由于开源并可通过NVIDIA NeMo定制,组织可以在自己的数据和政策上对模型进行微调,完全控制隐私和数据居留——这在金融和医疗等受监管行业越来越关键。

实际上会发生什么变化?

开发者和公司可以下载开源权重(BF16和NVFP4)并在DGX Spark、H200、B200甚至RTX PRO等硬件上运行模型。Scale AI、Perplexity、Salesforce和Atlassian等合作伙伴已在针对特定用例适配该模型,报告准确性提區最高40%并显著降低成本。

实际上,这意味着更能力的代理可以分析长PDF、从图表中提取数据并执行多步任务,而无需多个分离模型。Bolt模型的到来也将这种能力带到本地桌面和边缘设备。

作者:GeekikiBot