NVIDIA Nemotron 3.5 Super VL：新特性、基准测试与运行指南

NVIDIA 正式发布 Nemotron 3.5 Super VL，这是一款专为持续运行的 AI 智能体而构建的开源 1200 亿参数多模态模型。它将推理、指令遵循与工具调用能力，以及文本、图像、文档和视频理解能力整合于单一检查点之中。本指南将介绍该模型的定义、性能表现、许可协议及运行方式，帮助您判断它是否适合纳入您的智能体技术栈。

Nemotron 3.5 Super VL 是什么？

Nemotron 3.5 Super VL 是 NVIDIA 推出的开源、可定制视觉语言模型，专为企业级专用智能体设计。其 1200 亿参数的混合专家（MoE）架构在处理智能体工作流时，每个 token 仅激活 120 亿参数。这一设计在模型容量与推理成本之间取得平衡：您可以获得大型模型的知识储备，同时无需在每个 token 上运行全部 1200 亿参数。

该模型的核心亮点在于整合能力。它将推理、指令遵循、工具调用，以及文本、图像、文档和视频理解能力融于一体，无需再单独部署视觉语言模型。对开发者而言，这意味着一个开源检查点即可同时替代独立的文本模型和视觉模型。

该模型于 2026 年 10 月 15 日作为 NVIDIA Nemotron 系列的重要组成部分正式发布。Super VL 与 Bolt 74B-A9B 现已上线，Bolt E4B 将于 10 月 23 日推出。三款开源模型共同覆盖从大型企业服务器到边缘设备及本地硬件的全场景智能体部署需求。

架构：混合 Mamba-Transformer MoE

在底层架构上，Super VL 采用了以效率为优先的设计理念。Nemotron 3.5 Super VL 基于 Nemotron 3 Super 架构构建，采用 1200 亿参数的混合专家模型，每个 token 激活 120 亿参数。其混合 Mamba-Transformer 架构支持长上下文处理，而多 token 预测（MTP）技术则有助于加速生成速度。

该模型并非从零开始训练。NVIDIA 通过知识蒸馏，从其最大推理模型 Nemotron 3 Ultra 中提炼出 Super VL。训练规模相当可观：NVIDIA 报告称，该模型在预训练和持续预训练阶段共使用约 26 万亿 token，随后以约 380 万个样本进行后训练，并在数十个环境中应用强化学习。

在此基础上，还叠加了多项推理优化：

• LiLiCorr 推测解码：NVIDIA 表示，与 DGX Spark 上不使用推测的解码方式相比，token 生成速度最高可提升 2.3 倍。
• NVFP4 量化与量化感知蒸馏：4 位检查点的精度与原始 BF16 模型保持接近。
• 上下文复用：通过前缀缓存在智能体多轮对话中复用上下文，同时保留注意力缓存和 Mamba 循环状态。

NVIDIA 在开发该模型时也借助了外部力量。NVIDIA 与 Nemotron 联盟共同开发了该模型，联盟成员包括 Mistral AI、Thinking Machines Lab、Perplexity 和 Black Forest Labs。来自 Perplexity 的高质量数据集有助于改进和优化模型的中间训练阶段；来自 Prime Intellect 的训练环境则助力构建了更优质的教师模型。

基准测试：速度与精度

NVIDIA 的核心效率主张体现在吞吐量上。在单 GPU 上，Nemotron 3.5 Super VL 在智能体任务中的吞吐量比同等规模的其他开源模型最高提升 5 倍。对于长时间运行的智能体而言，这一速度优势将转化为更快的任务完成效率，在单个任务跨越数小时乃至数天时尤为重要。

在智能体行为基准测试中，它甚至超越了 NVIDIA 自家的更大规模模型：

上述数据来自 NVIDIA 技术博客，该博客还指出 Nemotron 3.5 Super VL 是 OCRBench v2 排行榜上表现最优的开源模型之一。在图表推理方面，NVIDIA 报告该模型在 CharXiv 基准测试中得分为 80.8%，结合 Python 代码解释后可提升至 84%。在编程能力方面，NVIDIA 表示该模型在多种评估设置下，于 SWE-bench 和 Terminal-Bench 上均优于 Nemotron 3 Super。

独立媒体对精度方面的表述更为直接：VentureBeat 报道称，经过后训练后，该模型有望在专项任务基准测试中超越 Claude Opus 5 和 GPT-6.1 Sol 等前沿模型。这一说明至关重要——与前沿模型比肩的说法取决于针对特定工作流的微调，而非开箱即用的通用场景。

与所有厂商基准测试一样，在第三方复现之前，这些数字仅代表 NVIDIA 自身的测量结果。目前存在一个独立信号：NVIDIA 引用了 EXO Labs 的评估结果，该评估将 Super VL 置于 DGX Spark 上精度与任务完成时间的帕累托前沿，详见其技术博客。

模型的实际优势

NVIDIA 将该模型定位于智能体在实际工作中所面临的场景。在视觉能力方面，NVIDIA 重点关注智能体在日常工作中接触到的材料类型，包括 OCR（光学字符识别）、表格、图表、多页文档和视频。典型应用场景是交叉引用：该模型能够解读图表，将其与文档其他位置的表格相关联，并对两者进行综合摘要。

已记录的智能体工作流涵盖编程、网络调研、文档智能、网络安全分类和视频理解。早期采用者在后训练后报告了具体成效：

• Ramp 正在将收据图像转换为结构化 JSON，预计吞吐量最高提升 50%，延迟降低 10 倍。
• Scale AI 针对供应商信用处理对模型进行了后训练，预计该工作负载的推理成本降低 40 倍，延迟降低 5 倍。
• AI21 和 Alice 针对威胁情报和漏洞分析对模型进行了后训练，精度提升 41%。

以上均为 NVIDIA 发布材料中的早期、特定工作负载结果，并非通用基准测试——请将其理解为经过调优后模型所能达到的上限，而非默认保证的性能水平。

Nemotron 3.5 Bolt：边缘端模型

Super VL 并非单独发布。两款更小的 Bolt 模型将智能体能力延伸至本地硬件：

• Nemotron 3.5 Bolt 74B-A9B 24GB 面向本地编程、调研及其他多步骤任务。它采用原生 2 位量化以适配 24GB 显存，并可与其他应用同时运行——NVIDIA 称其在 PinchBench 同类模型中排名第一，在 BrowseComp 中排名第二。
• Bolt E4B 4GB 专为 GeForce RTX、Jetson 和 RTX/DGX Spark 上的对话型及物理智能体而构建，适用于快速本地语音助手和嵌入式界面。

整体产品线覆盖数据中心（Super VL）、设备端多步骤任务（Bolt 74B）和轻量级语音交互（Bolt E4B）三大场景。

许可协议：真的开源吗？

是的，但需注意常规限制条款。该模型附带开放权重、开放数据集和训练方案。根据发布时的相关报道，Nemotron 3.5 Super VL 基于 NVIDIA 的 OpenMDW 许可协议发布，该协议允许商业使用、微调和再分发。这使其更接近宽松的开源条款，而非部分实验室仍附加于其最大模型上的仅限研究许可。

实际限制在于硬件。已有数十家机构在对 Super VL 进行微调，但要充分发挥其性能，需要购置 NVIDIA 硬件。优化后的 NVFP4 路径及大多数服务技巧均针对 NVIDIA 的 Blackwell 和 DGX 平台进行了调优。在商业部署前，请务必在模型卡上确认具体条款。

如何运行 Nemotron 3.5 Super VL

本次发布包含基础版、后训练版和 NVFP4 量化版检查点。您有三种主要运行方式：

1. 自托管。 获取 BF16 或 NVFP4 safetensors 文件，使用 vLLM、SGLang 或 TensorRT-LLM 进行部署。NVFP4 检查点设计为可在单张 H200 或 DGX Spark 上运行。
2. 托管 API。 Super VL 可通过 NVIDIA NIM、OpenRouter、Together AI、Baseten 和 fal 访问，build.nvidia.com 提供免费层级。
3. 本地/边缘端。 通过 Ollama 或 LM Studio 使用 Bolt 74B-A9B 模型，适用于希望保留在本地而非上云的工作负载。

在定制化方面，NVIDIA 引导开发者使用 NeMo 进行监督微调、LoRA 和强化学习，并在 Hugging Face 上提供开放数据集。完整架构详解请参阅 NVIDIA 的技术博客和发布公告。

是否应该使用它？

如果您的智能体需要处理复杂的视觉文档、希望将数据保留在自有基础设施上，并且有特定工作流值得进行后训练，那么 Nemotron 3.5 Super VL 是一个极具竞争力的选择。如果您需要的是通用对话模型，或者您并未使用 NVIDIA 硬件，则其吸引力相对有限——其效率优势在很大程度上依赖于该硬件平台。

如需了解它与其他近期开源及前沿模型发布的对比，请参阅我们对 Gemini 4 Argon 和 GLM-5.3-Flash 的详细解析。

让开源多模态模型真正发挥价值

Nemotron 3.5 Super VL 专为读取文档、调用工具和执行多步骤任务而生——这正是 AI 工作团队应当自主处理的工作。Eigent 是一款开源的 Cowork 桌面应用，可在本地编排多智能体工作流，让您能够将智能体直接指向自有文档和工具，而无需手动拼接各类模型。了解它如何处理文档密集型审查工作流，或下载 Eigent 并构建您自己的智能体团队。