NVIDIA Nemotron 3.5 Super VL：新功能、基準測試及運行指南

NVIDIA 剛剛發布了 Nemotron 3.5 Super VL，這是一款專為持續運行的 AI 智能代理而設計的開源 1200 億參數多模態模型。它將推理、指令跟隨和工具使用，與文字、圖像、文件及視頻理解整合於單一檢查點之中。本指南涵蓋模型的定義、性能表現、授權方式及運行方法，助你判斷它是否適合納入你的智能代理技術棧。

什麼是 Nemotron 3.5 Super VL？

Nemotron 3.5 Super VL 是 NVIDIA 為專業企業智能代理推出的開源、可定制視覺語言模型。其 1200 億參數的混合專家（Mixture-of-Experts）架構在處理智能代理工作流程時，每個 token 僅激活 120 億個參數。這種設計在容量與推理成本之間取得平衡：你能獲得大型模型的知識，卻無需在每個 token 上運行全部 1200 億個參數。

最核心的特點是整合能力。該模型將推理、指令跟隨、工具使用，以及文字、圖像、文件和視頻理解整合於單一模型之中，無需再使用獨立的視覺語言模型。對開發者而言，這意味著一個開源檢查點可同時取代獨立的文字模型和視覺模型。

此模型於 2026 年 10 月 15 日作為 NVIDIA Nemotron 系列的一部分正式發布。Super VL 和 Bolt 74B-A9B 現已推出，Bolt E4B 將於 10 月 23 日上線。這三款開源模型共同覆蓋智能代理部署的完整範圍，從大型企業服務器到邊緣設備及本地硬件均有支持。

架構：混合 Mamba-Transformer MoE

在底層設計上，Super VL 採用了以效率為優先的架構。Nemotron 3.5 Super VL 建基於 Nemotron 3 Super 架構，採用 1200 億參數的混合專家模型，每個 token 激活 120 億個參數。其混合 Mamba-Transformer 架構支持長上下文處理，而多 token 預測（Multi-Token Prediction，MTP）則有助加速生成速度。

此模型並非從零開始訓練。NVIDIA 從其最大的推理模型 Nemotron 3 Ultra 蒸餾出 Super VL。訓練規模相當龐大：NVIDIA 報告指出，該模型在預訓練和持續預訓練階段共使用約 26 萬億個 token，隨後以約 380 萬個樣本進行後訓練，並在數十個環境中應用強化學習。

多項推理優化技術疊加其上：

• LiLiCorr 推測解碼（Speculative Decoding）：NVIDIA 表示，在 DGX Spark 上，相比不使用推測的解碼方式，token 生成速度最高可提升 2.3 倍。
• NVFP4 量化（Quantization）：結合量化感知蒸餾，使 4 位元檢查點的精度接近原始 BF16 模型。
• 跨智能代理輪次的上下文重用：透過前綴緩存（Prefix Caching）保留注意力緩存和 Mamba 循環狀態。

NVIDIA 在開發此模型時亦獲得外部協助。NVIDIA 與 Nemotron Coalition 共同開發了此模型，成員包括 Mistral AI、Thinking Machines Lab、Perplexity 和 Black Forest Labs。來自 Perplexity 的高質量數據集有助改善和精簡模型的中期訓練，而 Prime Intellect 提供的環境則支持構建更優質的教師模型。

基準測試：速度與精度

NVIDIA 的核心效率主張在於吞吐量。在單一 GPU 上，Nemotron 3.5 Super VL 在智能代理任務上的吞吐量，相比同規模類別的其他開源模型最高可提升 5 倍。這種速度優勢在長時間運行的智能代理中能帶來更快的任務完成效率，對於單個任務跨越數小時乃至數天的場景尤為重要。

在智能代理行為基準測試中，它甚至超越了 NVIDIA 自家的更大型模型：

上述數據來自 NVIDIA 的技術博客，其中亦指出 Nemotron 3.5 Super VL 是 OCRBench v2 排行榜上名列前茅的開源模型之一。在圖表推理方面，NVIDIA 報告指模型在 CharXiv 基準測試中取得 80.8% 的成績，結合 Python 代碼解釋後更升至 84%。在編程方面，NVIDIA 表示該模型在多個評估設置中，於 SWE-bench 和 Terminal-Bench 上均優於 Nemotron 3 Super。

獨立媒體的報道對精度主張有更精確的描述：VentureBeat 報道指，經過後訓練後，該模型在專業任務基準測試上有望超越 Claude Opus 5 和 GPT-6.1 Sol 等前沿模型。這一前提條件至關重要——與前沿模型相媲美的主張，取決於針對特定工作流程的微調，而非開箱即用的通用場景。

與所有廠商基準測試一樣，在第三方獨立驗證之前，應將這些數字視為 NVIDIA 的自測結果。目前存在一個獨立信號：NVIDIA 引用了 EXO Labs 的評估，該評估將 Super VL 置於 DGX Spark 上精度與任務完成時間的帕累托前沿（Pareto Frontier），詳見其技術博客。

模型的實際優勢

NVIDIA 將此模型定位於智能代理在實際工作中所遇到的任務。在視覺方面，NVIDIA 專注於智能代理在日常工作中遇到的材料類型，包括 OCR（光學字符識別）、表格、圖表、多頁文件和視頻。典型示例是交叉引用：模型能解讀圖表，將其與文件其他位置的表格關聯，並對兩者進行摘要。

已記錄的智能代理工作流程涵蓋編程、網絡研究、文件智能、網絡安全分類和視頻理解。早期採用者在後訓練後報告了具體成果：

• Ramp 正在將收據圖像轉換為結構化 JSON，預計吞吐量最高可提升 50%，延遲降低 10 倍。
• Scale AI 針對供應商信用處理對模型進行後訓練，預計推理成本降低 40 倍，延遲降低 5 倍。
• AI21 和 Alice 針對威脅情報和漏洞分析進行後訓練，精度提升 41%。

這些是來自 NVIDIA 發布材料的早期、特定工作負載結果，並非通用基準測試——應將其理解為模型經過調優後可達到的水平，而非默認保證。

Nemotron 3.5 Bolt：邊緣模型

Super VL 並非單獨發布。兩款更小的 Bolt 模型將智能代理帶到本地硬件：

• Nemotron 3.5 Bolt 74B-A9B 24GB 針對本地編程、研究及其他多步驟任務而設計。它採用原生 2 位元量化以適應 24GB 顯存，並可與其他應用程序同時運行——NVIDIA 稱其在 PinchBench 同類模型中排名第一，在 BrowseComp 中排名第二。
• Bolt E4B 4GB 專為 GeForce RTX、Jetson 和 RTX/DGX Spark 上的對話式及實體智能代理而設計，適用於快速本地語音助手和嵌入式界面。

整個產品線涵蓋數據中心（Super VL）、設備端多步驟工作（Bolt 74B）和輕量語音（Bolt E4B）。

授權條款：是否真正開源？

是的，但有常見的附帶條件。此模型附帶開放權重、開放數據集和訓練方案。根據發布時的相關報道，Nemotron 3.5 Super VL 在 NVIDIA 的 OpenMDW 授權下發布，該授權允許商業使用、微調和再發布。這使其更接近寬鬆的開源條款，而非部分實驗室仍附加於其最大模型上的僅限研究授權。

實際的限制在於硬件。已有數十個組織在對 Super VL 進行微調，但要充分發揮其潛力，意味著需要購買 NVIDIA 硬件。優化的 NVFP4 路徑和大多數服務技巧均針對 NVIDIA 的 Blackwell 和 DGX 技術棧進行了調優。在商業部署前，請務必確認模型卡上的確切條款。

如何運行 Nemotron 3.5 Super VL

此次發布包含基礎版、後訓練版和 NVFP4 量化版檢查點。你有三種主要方式：

1. 自行托管。 獲取 BF16 或 NVFP4 safetensors，並使用 vLLM、SGLang 或 TensorRT-LLM 進行服務部署。NVFP4 檢查點設計為可在單張 H200 或 DGX Spark 上運行。
2. 托管 API。 Super VL 可通過 NVIDIA NIM、OpenRouter、Together AI、Baseten 和 fal 獲取，並在 build.nvidia.com 上提供免費層級。
3. 本地/邊緣部署。 通過 Ollama 或 LM Studio 使用 Bolt 74B-A9B 模型，適用於希望保留在本地而非雲端的工作負載。

在定制化方面，NVIDIA 引導開發者使用 NeMo 進行監督微調、LoRA 和強化學習，並在 Hugging Face 上提供開放數據集。完整的架構說明請參閱 NVIDIA 的技術博客和發布公告。

是否應該使用它？

如果你運行的智能代理需要讀取雜亂的視覺文件、希望將數據保留在自有基礎設施上，並且有特定工作流程值得進行後訓練，那麼 Nemotron 3.5 Super VL 是一個強力選擇。如果你需要的是通用對話模型，或者你並非使用 NVIDIA 硬件，那麼它的吸引力則相對較低——其效率優勢在很大程度上依賴於該技術棧。

如需了解它與其他近期開源及前沿模型發布的對比，請參閱我們對 Gemini 4 Argon 和 GLM-5.3-Flash 的深度解析。

讓開源多模態模型投入實際工作

Nemotron 3.5 Super VL 專為讀取文件、調用工具和執行多步驟任務而設計——這正是 AI 工作團隊應自主處理的工作。Eigent 是一款開源的協作桌面應用程序，可在本地協調多智能代理工作流程，讓你能夠將智能代理指向自己的文件和工具，而無需手動拼接各個模型。了解它如何處理文件密集型審查工作流程，或下載 Eigent 並構建你自己的智能代理團隊。