NVIDIA Nemotron 3.5 Super VL：新功能、基準測試與執行方式完整解析

NVIDIA 剛發布了 Nemotron 3.5 Super VL，這是一款開源的 1200 億參數多模態模型，專為持續運行的 AI 代理而設計。它在單一檢查點中整合了推理、指令遵循、工具使用，以及文字、圖像、文件與影片理解能力。本指南涵蓋模型的定義、效能表現、授權方式與執行方法，協助您判斷是否應將其納入代理架構中。

什麼是 Nemotron 3.5 Super VL？

Nemotron 3.5 Super VL 是 NVIDIA 推出的開源、可客製化視覺語言模型，專為企業專用代理設計。其 1200 億參數的混合專家（Mixture-of-Experts，MoE）架構在代理工作流程中每個 token 僅啟用 120 億參數。這種設計在容量與推理成本之間取得平衡：您可以獲得大型模型的知識，卻無需在每個 token 上執行全部 1200 億參數。

最大亮點在於整合性。該模型將推理、指令遵循、工具使用，以及文字、圖像、文件與影片理解整合於單一模型中，無需再使用獨立的視覺語言模型。對開發者而言，這意味著一個開源檢查點即可取代獨立的文字模型與視覺模型。

此模型於 2026 年 10 月 15 日作為 NVIDIA Nemotron 系列的一部分正式發布。Super VL 與 Bolt 74B-A9B 現已上線，Bolt E4B 將於 10 月 23 日推出。這三款開源模型共同涵蓋代理部署的完整範疇，從大型企業伺服器到邊緣裝置與本地硬體皆適用。

架構：混合 Mamba-Transformer MoE

在底層架構上，Super VL 採用效率優先的設計。Nemotron 3.5 Super VL 以 Nemotron 3 Super 架構為基礎，採用 1200 億參數的混合專家模型，每個 token 啟用 120 億參數。其混合 Mamba-Transformer 架構支援長上下文處理，而多 token 預測（Multi-Token Prediction，MTP）則有助於加速生成速度。

此模型並非從頭訓練。NVIDIA 從其最大的推理模型 Nemotron 3 Ultra 蒸餾出 Super VL。訓練規模相當龐大：NVIDIA 表示該模型在預訓練與持續預訓練階段共使用約 26 兆個 token，後訓練階段則使用約 380 萬個樣本，並在數十個環境中進行強化學習。

此外還疊加了多項推理優化：

• LiLiCorr 推測解碼（Speculative Decoding）：NVIDIA 表示在 DGX Spark 上相較於無推測解碼的方式，token 生成速度最高可提升 2.3 倍。
• NVFP4 量化（Quantization） 搭配量化感知蒸餾，使 4-bit 檢查點的精度接近原始 BF16 模型。
• 上下文重用（Context Reuse）：透過前綴快取（Prefix Caching）在代理輪次間保留注意力快取與 Mamba 循環狀態。

NVIDIA 也在外部協助下開發此模型。NVIDIA 與 Nemotron Coalition 共同開發，成員包括 Mistral AI、Thinking Machines Lab、Perplexity 與 Black Forest Labs。Perplexity 提供的高品質資料集有助於改善並精簡模型的中期訓練；Prime Intellect 提供的環境則協助建構更優質的教師模型。

基準測試：速度與精度

NVIDIA 的核心效率主張在於吞吐量。在單一 GPU 上，Nemotron 3.5 Super VL 在代理任務的吞吐量相較於同尺寸類別的其他開源模型最高可提升 5 倍。這種速度優勢在長時間運行的代理中能轉化為更快的任務完成速度，對於單一任務跨越數小時或數天的情境尤為重要。

在代理行為基準測試上，它甚至超越了 NVIDIA 自家更大的模型：

上述數據來自 NVIDIA 技術部落格，其中也指出 Nemotron 3.5 Super VL 在 OCRBench v2 排行榜上名列頂尖開源模型之一。在圖表推理方面，NVIDIA 表示模型在 CharXiv 基準測試中得分 80.8%，搭配 Python 程式碼解讀後可提升至 84%。在程式碼能力方面，NVIDIA 表示該模型在多種評估設定下的 SWE-bench 與 Terminal-Bench 表現均優於 Nemotron 3 Super。

獨立媒體的報導對精度主張有更精確的描述：VentureBeat 報導指出，經過後訓練後，該模型在專項任務基準測試上有望超越 Claude Opus 5 與 GPT-6.1 Sol 等前沿模型。這個前提條件至關重要——與前沿模型比肩的主張取決於針對特定工作流程的微調，而非開箱即用的通用能力。

與所有廠商基準測試一樣，在第三方重現這些數據之前，請將這些數字視為 NVIDIA 自身的測量結果。目前存在一個獨立訊號：NVIDIA 引用了 EXO Labs 的評估，該評估將 Super VL 置於 DGX Spark 上精度與任務完成時間的帕雷托前沿（Pareto Frontier），詳見其技術部落格。

模型的實際優勢

NVIDIA 將此模型定位於代理在實際工作中所遇到的任務。在視覺方面，NVIDIA 聚焦於代理在日常工作中遇到的素材類型，包括 OCR、表格、圖表、多頁文件與影片。旗艦示範案例是交叉參照：模型可解讀圖表，將其與文件其他位置的表格關聯，並同時摘要兩者內容。

已記錄的代理工作流程涵蓋程式碼撰寫、網路研究、文件智慧、資安分類與影片理解。早期採用者在後訓練後回報了具體成效：

• Ramp 正在將收據圖像轉換為結構化 JSON，預期吞吐量最高可提升 50%，延遲降低 10 倍。
• Scale AI 針對供應商信用處理對模型進行後訓練，預計推理成本降低 40 倍，延遲降低 5 倍。
• AI21 與 Alice 針對威脅情報與漏洞分析進行後訓練，精度提升 41%。

這些是來自 NVIDIA 發布材料的早期、特定工作負載結果，並非通用基準測試——請將其視為模型經過調整後可達到的成效，而非預設的保證表現。

Nemotron 3.5 Bolt：邊緣模型

Super VL 並非單獨發布。兩款較小的 Bolt 模型將代理帶到本地硬體上：

• Nemotron 3.5 Bolt 74B-A9B 24GB 針對本地端程式碼撰寫、研究及其他多步驟任務設計。它採用原生 2-bit 量化以適應 24GB 記憶體並可與其他應用程式同時運行——NVIDIA 稱其為同類開源模型中 PinchBench 排名第一、BrowseComp 排名第二的模型。
• Bolt E4B 4GB 專為 GeForce RTX、Jetson 與 RTX/DGX Spark 上的對話式與實體代理設計，適用於快速本地語音助理與嵌入式介面。

整體產品線涵蓋資料中心（Super VL）、裝置端多步驟工作（Bolt 74B）與輕量語音（Bolt E4B）。

授權：真的開源嗎？

是的，但有常見的注意事項。此模型附帶開放權重、開放資料集與訓練配方。根據發布時的相關報導，Nemotron 3.5 Super VL 依據 NVIDIA 的 OpenMDW 授權條款發布，該授權被描述為允許商業使用、微調與再發布。這使其更接近寬鬆的開源條款，而非部分實驗室仍附加於其最大模型上的限制性純研究授權。

實際的限制在於硬體。已有數十個組織正在微調 Super VL，但要充分發揮其效能，意味著需要購買 NVIDIA 硬體。優化的 NVFP4 路徑與大多數服務技巧均針對 NVIDIA 的 Blackwell 與 DGX 架構進行調校。在商業部署前，請務必確認模型卡上的確切條款。

如何執行 Nemotron 3.5 Super VL

此次發布包含基礎版、後訓練版與 NVFP4 量化版檢查點。您有三種主要方式：

1. 自行託管。 取得 BF16 或 NVFP4 safetensors 檔案，並使用 vLLM、SGLang 或 TensorRT-LLM 進行服務部署。NVFP4 檢查點設計為可在單一 H200 或 DGX Spark 上運行。
2. 託管 API。 Super VL 可透過 NVIDIA NIM、OpenRouter、Together AI、Baseten 與 fal 取得，並在 build.nvidia.com 提供免費方案。
3. 本地端 / 邊緣。 透過 Ollama 或 LM Studio 使用 Bolt 74B-A9B 模型，適用於您希望保留在雲端以外的工作負載。

在客製化方面，NVIDIA 引導開發者使用 NeMo 進行監督式微調（Supervised Fine-Tuning）、LoRA 與強化學習，並在 Hugging Face 上提供開放資料集。完整架構說明請參閱 NVIDIA 的技術部落格與發布公告。

您應該使用它嗎？

如果您的代理需要讀取雜亂的視覺文件、您希望將資料保留在自有基礎設施上，並且有特定工作流程值得進行後訓練，Nemotron 3.5 Super VL 是非常合適的選擇。如果您需要通用對話模型，或並非使用 NVIDIA 硬體，則吸引力相對較低——其效率優勢高度依賴該硬體架構。

若想了解它與其他近期開源及前沿模型發布的比較，請參閱我們對 Gemini 4 Argon 與 GLM-5.3-Flash 的分析。

讓開源多模態模型發揮實際效用

Nemotron 3.5 Super VL 專為讀取文件、呼叫工具與執行多步驟任務而設計——這正是 AI 工作團隊應自主處理的工作。Eigent 是一款開源的 Cowork 桌面應用程式，可在本地端協調多代理工作流程，讓您能夠將代理指向自己的文件與工具，而無需手動串接各個模型。了解它如何處理文件密集型審查工作流程，或下載 Eigent 並建立您自己的代理團隊。