NVIDIA Nemotron 3.5 Super VL: 새로운 기능, 벤치마크, 실행 방법

NVIDIA가 Nemotron 3.5 Super VL을 공개했습니다. 상시 작동 AI 에이전트를 위해 설계된 오픈 1,200억 파라미터 멀티모달 모델입니다. 추론, 명령 수행, 도구 사용과 함께 텍스트, 이미지, 문서, 영상 이해 기능을 단일 체크포인트에 통합했습니다. 이 가이드에서는 모델의 특징, 성능, 라이선스 구조, 실행 방법을 다루어 에이전트 스택에 도입할지 판단하는 데 도움을 드립니다.

Nemotron 3.5 Super VL이란?

Nemotron 3.5 Super VL은 특화된 엔터프라이즈 에이전트를 위한 NVIDIA의 오픈 커스터마이징 가능 비전-언어 모델입니다. 1,200억 파라미터 규모의 혼합 전문가(Mixture-of-Experts) 아키텍처는 에이전트 워크플로우에서 토큰당 120억 파라미터를 활성화합니다. 이 설계는 용량과 추론 비용의 균형을 맞춥니다. 모든 토큰에 1,200억 파라미터 전체를 실행하는 비용 없이 대형 모델의 지식을 활용할 수 있습니다.

핵심 특징은 통합입니다. 이 모델은 추론, 명령 수행, 도구 사용, 텍스트·이미지·문서·영상 이해를 단일 모델에 결합하여 별도의 비전-언어 모델이 필요 없습니다. 개발자 입장에서는 별도의 텍스트 모델과 비전 모델을 각각 운용하는 대신 하나의 오픈 체크포인트로 대체할 수 있습니다.

2026년 10월 15일 NVIDIA의 Nemotron 패밀리의 일환으로 출시되었습니다. Super VL과 Bolt 74B-A9B는 현재 이용 가능하며, Bolt E4B는 10월 23일 출시 예정입니다. 세 가지 오픈 모델은 대형 엔터프라이즈 서버부터 엣지 디바이스, 로컬 하드웨어까지 에이전트 배포의 전 범위를 커버합니다.

아키텍처: 하이브리드 Mamba-Transformer MoE

내부적으로 Super VL은 효율성 우선 설계를 채택합니다. Nemotron 3.5 Super VL은 Nemotron 3 Super 아키텍처를 기반으로 하며, 토큰당 120억 파라미터를 활성화하는 1,200억 파라미터 혼합 전문가 모델입니다. 하이브리드 Mamba-Transformer 아키텍처는 긴 컨텍스트 처리를 지원하고, 멀티 토큰 예측(MTP, Multi-Token Prediction)이 생성 속도를 높입니다.

이 모델은 처음부터 학습된 것이 아닙니다. NVIDIA는 가장 큰 추론 모델인 Nemotron 3 Ultra에서 Super VL을 증류(distillation)했습니다. 학습 규모는 상당합니다. NVIDIA에 따르면 사전 학습과 지속 사전 학습을 합쳐 약 26조 토큰으로 학습했으며, 이후 약 380만 개의 샘플과 수십 개의 환경에 걸친 강화 학습으로 사후 학습을 진행했습니다.

여러 추론 최적화가 추가로 적용됩니다:

• LiLiCorr 투기적 디코딩(speculative decoding): NVIDIA에 따르면 DGX Spark에서 투기 없는 디코딩 대비 최대 2.3배 빠른 토큰 생성을 제공합니다.
• NVFP4 양자화(quantization): 양자화 인식 증류(quantization-aware distillation)를 적용하여 4비트 체크포인트가 원본 BF16 모델에 근접한 정확도를 유지합니다.
• 컨텍스트 재사용: 프리픽스 캐싱(prefix caching)을 통한 에이전트 턴 간 컨텍스트 재사용으로 어텐션 캐시와 Mamba 순환 상태를 모두 보존합니다.

NVIDIA는 외부 협력을 통해 모델을 개발했습니다. NVIDIA는 Mistral AI, Thinking Machines Lab, Perplexity, Black Forest Labs가 참여한 Nemotron Coalition과 함께 모델을 개발했습니다. Perplexity의 고품질 데이터셋이 모델의 중간 학습 개선 및 효율화에 기여했으며, Prime Intellect의 환경이 더 나은 교사 모델 구축을 가능하게 했습니다.

벤치마크: 속도와 정확도

NVIDIA의 핵심 효율성 주장은 처리량입니다. 단일 GPU에서 Nemotron 3.5 Super VL은 동일 크기 범주의 다른 오픈 모델 대비 에이전트 작업에서 최대 5배 높은 처리량을 제공합니다. 이 속도는 장시간 실행되는 에이전트의 작업 완료 속도를 높이는 데 복합적으로 작용하며, 단일 작업이 수 시간 또는 수 일에 걸칠 때 중요합니다.

에이전트 행동 벤치마크에서는 NVIDIA 자체의 더 큰 모델을 능가합니다:

이 수치는 NVIDIA의 기술 블로그에서 가져온 것으로, Nemotron 3.5 Super VL이 OCRBench v2 리더보드에서도 최상위 오픈 모델 중 하나라고 언급합니다. 차트 추론 분야에서 NVIDIA는 모델이 CharXiv 벤치마크에서 80.8%를 기록했으며, Python 코드 해석을 활용하면 84%까지 상승한다고 밝혔습니다. 코딩 분야에서는 여러 평가 설정에서 SWE-bench와 Terminal-Bench 모두 Nemotron 3 Super를 능가한다고 합니다.

독립적인 보도는 정확도 주장을 더 구체적으로 표현합니다. VentureBeat는 사후 학습을 통해 이 모델이 특화된 작업 벤치마크에서 Claude Opus 5, GPT-6.1 Sol 같은 프론티어 모델을 능가할 위치에 있다고 보도했습니다. 이 단서가 중요합니다. 프론티어 모델과의 비교 주장은 특정 워크플로우에 대한 파인튜닝을 전제로 하며, 범용 즉시 사용(out-of-the-box) 성능이 아닙니다.

벤더 벤치마크는 항상 그렇듯 제3자가 재현하기 전까지는 NVIDIA 자체 측정값으로 받아들이는 것이 좋습니다. 독립적인 신호가 하나 있습니다. NVIDIA는 EXO Labs의 평가를 인용하며 Super VL이 DGX Spark에서 정확도와 작업 완료 시간 측면에서 파레토 프론티어(Pareto frontier)에 위치한다고 밝혔습니다. 자세한 내용은 기술 블로그를 참조하세요.

실제로 잘 하는 것

NVIDIA는 에이전트가 실무에서 마주치는 작업을 대상으로 모델을 설계했습니다. 비전 측면에서 NVIDIA는 OCR, 표, 차트, 다중 페이지 문서, 영상 등 에이전트가 일상 업무에서 접하는 자료에 집중했습니다. 대표적인 예시는 교차 참조입니다. 모델은 차트를 해석하고, 문서 내 다른 위치의 표와 연결하여 두 내용을 모두 요약할 수 있습니다.

문서화된 에이전트 워크플로우는 코딩, 웹 리서치, 문서 인텔리전스, 사이버보안 트리아지(triage), 영상 이해에 걸쳐 있습니다. 초기 도입 기업들은 사후 학습 후 구체적인 성과를 보고했습니다:

• Ramp은 영수증 이미지를 구조화된 JSON으로 변환하고 있으며, 최대 50% 높은 처리량과 10배 낮은 지연 시간을 기대합니다.
• Scale AI는 공급업체 크레딧 처리를 위해 모델을 사후 학습하여 해당 워크로드에서 40배 낮은 추론 비용과 5배 낮은 지연 시간을 예상합니다.
• AI21과 Alice는 위협 인텔리전스 및 취약점 분석을 위해 사후 학습하여 정확도를 41% 향상시켰습니다.

이는 NVIDIA의 출시 자료에서 나온 초기, 워크로드별 결과이며 일반 벤치마크가 아닙니다. 튜닝을 통해 도달 가능한 수치로 이해하되, 기본 설정에서 보장되는 성능으로 받아들이지 마세요.

Nemotron 3.5 Bolt: 엣지 모델

Super VL은 단독으로 출시되지 않습니다. 두 가지 소형 Bolt 모델이 에이전트를 로컬 하드웨어로 가져옵니다:

• Nemotron 3.5 Bolt 74B-A9B 24GB는 로컬 코딩, 리서치 및 기타 다단계 작업을 대상으로 합니다. 네이티브 2비트 양자화를 사용하여 24GB에 맞추고 다른 앱과 함께 실행됩니다. NVIDIA는 이를 PinchBench에서 동급 최고의 오픈 모델, BrowseComp에서 2위로 소개합니다.
• Bolt E4B 4GB는 GeForce RTX, Jetson, RTX/DGX Spark에서 빠른 로컬 음성 어시스턴트와 임베디드 인터페이스를 위한 대화형 및 물리적 에이전트용으로 설계되었습니다.

라인업 전체는 데이터 센터(Super VL), 온디바이스 다단계 작업(Bolt 74B), 경량 음성(Bolt E4B)을 커버합니다.

라이선스: 정말 오픈인가?

네, 일반적인 단서와 함께입니다. 모델은 오픈 가중치, 오픈 데이터셋, 학습 레시피와 함께 출시됩니다. 출시 관련 보도에 따르면 Nemotron 3.5 Super VL은 NVIDIA의 OpenMDW 라이선스로 배포되며, 상업적 사용, 파인튜닝, 재배포를 허용하는 것으로 설명됩니다. 이는 일부 연구소가 가장 큰 모델에 여전히 적용하는 연구 전용 제한 라이선스보다 허용적인 오픈소스 조건에 더 가깝습니다.

실질적인 제약은 하드웨어입니다. 수십 개의 조직이 이미 Super VL을 파인튜닝하고 있지만, 최대 성능을 끌어내려면 NVIDIA 하드웨어가 필요합니다. 최적화된 NVFP4 경로와 대부분의 서빙 기법은 NVIDIA의 Blackwell 및 DGX 스택에 맞게 조정되어 있습니다. 상업적으로 배포하기 전에 모델 카드에서 정확한 조건을 반드시 확인하세요.

Nemotron 3.5 Super VL 실행 방법

릴리스에는 기본(base), 사후 학습(post-trained), NVFP4 양자화 체크포인트가 포함됩니다. 세 가지 주요 경로가 있습니다:

1. 자체 호스팅. BF16 또는 NVFP4 safetensors를 가져와 vLLM, SGLang, 또는 TensorRT-LLM으로 서빙합니다. NVFP4 체크포인트는 단일 H200 또는 DGX Spark에서 실행되도록 설계되었습니다.
2. 호스팅 API. Super VL은 NVIDIA NIM, OpenRouter, Together AI, Baseten, fal을 통해 이용 가능하며, build.nvidia.com에서 무료 티어를 제공합니다.
3. 로컬/엣지. 클라우드 외부에서 처리하려는 워크로드에는 Ollama 또는 LM Studio를 통해 Bolt 74B-A9B 모델을 사용하세요.

커스터마이징을 위해 NVIDIA는 개발자에게 지도 파인튜닝, LoRA, 강화 학습을 위한 NeMo와 Hugging Face의 오픈 데이터셋을 안내합니다. 전체 아키텍처 분석은 NVIDIA의 기술 블로그와 출시 발표에서 확인할 수 있습니다.

도입해야 할까?

Nemotron 3.5 Super VL은 복잡한 시각 문서를 읽는 에이전트를 운용하고, 자체 인프라에 데이터를 유지하고 싶으며, 사후 학습할 가치가 있는 특정 워크플로우가 있다면 강력한 선택지입니다. 범용 채팅 모델이 필요하거나 NVIDIA 하드웨어를 사용하지 않는다면 매력이 떨어집니다. 효율성 이점은 해당 스택에 크게 의존하기 때문입니다.

최근 출시된 다른 오픈 및 프론티어 모델과의 비교는 Gemini 4 Argon 및 GLM-5.3-Flash 분석을 참조하세요.

오픈 멀티모달 모델을 실무에 활용하기

Nemotron 3.5 Super VL은 문서를 읽고, 도구를 호출하고, 다단계 작업을 실행하도록 설계되었습니다. AI 인력이 자체적으로 처리해야 할 바로 그 작업입니다. Eigent는 멀티 에이전트 워크플로우를 로컬에서 조율하는 오픈소스 협업 데스크톱 앱으로, 모델을 수동으로 연결하는 대신 에이전트가 자신의 문서와 도구를 직접 활용하도록 설정할 수 있습니다. 문서 집약적 검토 워크플로우에서 어떻게 처리하는지 확인하거나, Eigent를 다운로드하여 나만의 에이전트 팀을 구성해 보세요.