NVIDIA Nemotron 3.5 Bolt E4B : Le modèle open source 4 Go pour les agents IA locaux

NVIDIA vient de publier Nemotron 3.5 Bolt E4B 4GB, son plus petit modèle open source à ce jour — conçu pour qu'un agent IA conversationnel et capable d'utiliser des outils puisse fonctionner localement sur un robot, un appareil portable ou un GPU d'entrée de gamme. Il intègre le comportement d'un agent dans environ 4 Go de mémoire tout en continuant à appeler des outils sur plusieurs tours. Ce guide explique ce qu'est Bolt E4B, ses performances, le matériel nécessaire et comment l'exécuter, afin que vous puissiez décider s'il a sa place dans votre stack edge.

Qu'est-ce que Nemotron 3.5 Bolt E4B ?

Nemotron 3.5 Bolt E4B est un petit modèle de langage open source pour des agents conversationnels locaux rapides. NVIDIA le décrit comme son dernier petit modèle de langage open source optimisé pour la vitesse et l'intelligence par gigaoctet dans les agents conversationnels. Il cible trois types de charges de travail : les assistants vocaux et d'appareils, les personnages interactifs, et les agents embarqués ou industriels.

Le détail clé est sa taille. Le modèle possède 8 milliards de paramètres au total mais seulement 4 milliards d'effectifs, avec une fenêtre de contexte de 64K et des entrées/sorties texte uniquement. Le « 4GB » dans le nom fait référence à la mémoire que la version quantifiée cible dans ses charges de travail prévues — et non au téléchargement, qui est plus volumineux. NVIDIA le distribue sous la licence OpenMDW-1.1, et la publication inclut les poids ouverts, les données et les recettes d'entraînement.

Bolt E4B n'est pas entraîné de zéro. Il s'appuie sur le Gemma 4 E4B de Google avec le post-entraînement Nemotron de NVIDIA — le « E » désigne les paramètres effectifs, donc le modèle porte 8B de poids mais en active environ 4B par token.

Il est arrivé le 23 octobre 2026, le dernier des trois modèles Nemotron 3.5 open source que NVIDIA a déployés au cours du mois, aux côtés du modèle vision-langage Nemotron 3.5 Super VL à 120B et du Bolt 74B-A9B à 24 Go. Là où Super VL cible les agents en centre de données, Bolt E4B se situe à l'opposé : suffisamment petit pour les contrôleurs robotiques et les appareils embarqués.

Ce pour quoi Bolt E4B est conçu

NVIDIA a conçu Bolt E4B autour du comportement réel des agents conversationnels, et non pour dominer un classement de codage. Ses fonctionnalités phares :

• Utilisation d'outils multi-tours — il appelle des API d'applications pour accomplir des tâches au fil d'une conversation, avec des conseils pour les appels d'outils asynchrones.
• Mode conversationnel — un interrupteur qui encourage des réponses concises et adaptées à la parole pour des échanges naturels.
• Raisonnement configurable — activez le raisonnement pour les requêtes difficiles ou désactivez-le pour des réponses plus rapides, avec des options pour limiter la « réflexion » afin d'atteindre des objectifs de latence.
• Contexte 64K — suffisant pour l'historique de conversation, les instructions, les définitions d'outils, les données récupérées et l'état de l'application.
• Multilingue — prise en charge de 35 langues, sur un modèle de base pré-entraîné sur plus de 140.

Les expériences cibles en découlent : assistants vocaux et d'appareils locaux (PC, mobile, embarqué en voiture), personnages interactifs comme les PNJ de jeux et les compagnons, et interfaces homme-machine pour la robotique et l'IoT industriel.

La démo de lancement de NVIDIA concrétise l'argument edge. Un robot Reachy Mini fonctionne sur un Jetson Orin Nano 8GB, avec Bolt E4B gérant la conversation et les appels d'outils tandis que Cosmos 3 Edge fournit la vision en temps réel. Dans une seconde démo, un PNJ forgeron vérifie le paiement d'un objet, puis appelle de manière autonome des outils pour vérifier les recettes, collecter les ingrédients, fabriquer l'objet et le remettre — le type de boucle dialogue-plus-action entrelacée pour laquelle ces petits agents sont conçus.

Benchmarks de Nemotron 3.5 Bolt E4B

NVIDIA regroupe ses évaluations en cinq capacités et compare Bolt E4B à des modèles de taille similaire : son propre Nemotron 3 Nano 4B, Qwen 3.5 4B et le Gemma 4 E4B de base. Tous les scores ci-dessous sont rapportés par NVIDIA (BF16), donc traitez-les comme des chiffres du fournisseur jusqu'à ce que des tiers les reproduisent.

Sur la conversation et l'utilisation d'outils, Bolt E4B mène généralement dans sa catégorie de taille :

Il ne gagne pas sur tout — Qwen 3.5 4B est en tête sur Tau2-Bench (75.1 contre 55.1) et sur certaines récupérations à long contexte, où RULER à 64K favorise Qwen (95.1) et Nano (91.5) par rapport à Bolt (87.0). Le propre résumé de NVIDIA est que Bolt E4B obtient environ 40 % de mieux en moyenne que Nemotron 3 Nano 4B et environ 10 % de mieux que les autres pairs évalués, tout en utilisant jusqu'à 80 % moins de tokens de sortie dans les comparaisons avec raisonnement activé. Moins de tokens signifie moins de travail de décodage, un coût réduit et souvent des réponses plus rapides.

Un signal tiers est apparu au lancement : selon un post X de NVIDIA, Scale Labs a classé Bolt premier parmi les petits modèles sur MultiChallenge à 56,03 %, soit environ 12,8 points devant Gemma 4 E4B — cohérent avec le chiffre MultiChallenge de NVIDIA.

Quelle mémoire et quelle vitesse ?

C'est là que la revendication « 4GB » prend tout son sens. NVIDIA a mesuré la version Q4_K_M avec une taille de lot de 1 sur llama.cpp sur du matériel représentatif :

Ainsi, sur une carte RTX de bureau, le modèle répond en environ une demi-seconde et diffuse bien plus de 100 tokens/sec dans ~3,5 Go. Sur un Jetson Orin Nano 8 Go, il tient encore — mais attendez-vous à un premier token de plusieurs secondes et environ 15 tokens/sec, ce qui explique pourquoi NVIDIA l'associe à un modèle de vision léger plutôt que d'empiler des modèles plus lourds sur la même carte.

Deux optimisations aident à combler l'écart :

• DFlash parallel drafter — un brouillonneur de décodage spéculatif (speculative-decoding drafter) qui propose des tokens brouillons en une seule passe avant ; NVIDIA rapporte jusqu'à 21 % de débit supérieur à celui du brouillonneur original de Gemma 4 E4B.
• Q4_K_M avec calibration imatrix — NVIDIA a quantifié le checkpoint BF16 en utilisant environ 1 million de tokens de rollouts RL de la même étape d'entraînement, maintenant la qualité proche du modèle en pleine précision.

Comment Bolt E4B a-t-il été entraîné ?

Bolt E4B est une histoire de post-entraînement. NVIDIA est parti de Gemma4-E4B-it et a appliqué le post-entraînement Nemotron dans des environnements pour le suivi d'instructions, l'appel d'outils multi-tours et la conversation. La méthode est l'apprentissage par renforcement uniquement — RL avec récompenses vérifiables (RLVR) et à partir de retours humains (RLHF), exécuté sur NeMo-RL et NeMo-Gym.

Pour garder le modèle rapide plutôt que bavard, NVIDIA a mis l'accent sur la précision hors raisonnement, maintenu un ratio de 2:1 d'échantillons hors raisonnement par rapport aux échantillons avec raisonnement par lot, et ajouté des pénalités de longueur pour limiter la verbosité à mesure que l'entraînement allongeait les réponses. La recette complète et les jeux de données sont publiés avec les poids.

Comment exécuter Nemotron 3.5 Bolt E4B

NVIDIA fournit plusieurs checkpoints — un GGUF Q4_K_M pour le déploiement, un brouillonneur DFlash et un checkpoint HF BF16 — et liste plusieurs façons de démarrer : Hugging Face, Ollama, LM Studio, Unsloth, Canonical, Jetson AI Lab et le NVIDIA In-Game Inferencing SDK.

Les chemins locaux les plus simples :

1. Bureau (RTX). Récupérez le GGUF via Ollama ou LM Studio et exécutez-le comme n'importe quel autre modèle local — attendez-vous à des réponses en moins d'une seconde sur une carte RTX moderne.
2. Jetson / edge. Utilisez le guide Jetson AI Lab, qui exécute un conteneur llama.cpp qui télécharge Nemotron-3.5-Bolt-E4B-Q4_K_M.gguf et sert une API compatible OpenAI sur le port 8000.
3. Intégration d'application. Comme le serveur parle l'API OpenAI, vous pouvez y pointer votre code d'agent existant en changeant simplement l'URL de base — la fiche du modèle documente les interrupteurs enable_thinking et conversational_mode.

Un appel minimal contre un serveur llama.cpp en cours d'exécution est une requête standard de complétion de chat vers /v1/chat/completions avec l'identifiant de modèle nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB.

Devriez-vous l'utiliser ?

Bolt E4B convient parfaitement si vous construisez un assistant vocal, un PNJ de jeu ou un robot qui doit fonctionner localement, répondre rapidement et laisser de la mémoire disponible pour des modèles de parole ou de vision sur le même appareil. C'est le bon outil lorsque la confidentialité, la latence ou le fonctionnement sans internet excluent un modèle cloud.

Il est moins convaincant si vous avez besoin d'un raisonnement approfondi, d'une récupération à long contexte ou d'un codage agentique — ses propres variantes (Bolt 74B-A9B pour les tâches multi-étapes, Super VL pour les documents et la vision) ou un modèle frontier serviront mieux ces besoins. Et comme le reste de la famille Nemotron, le chemin le plus fluide passe par le matériel NVIDIA.

Pour comparer cela avec d'autres lancements récents de petits modèles et de modèles à poids ouverts, consultez nos analyses de Muse Spark Open et Reflection Beam.

Construisez une équipe d'agents locaux sur votre propre matériel

Bolt E4B montre la direction que prend l'IA edge : des agents capables, utilisant des outils, qui fonctionnent sur l'appareil devant vous. Eigent est une application de bureau Cowork open source qui orchestre une équipe d'agents IA localement, vous permettant de connecter des modèles locaux et vos propres outils dans de véritables workflows multi-étapes plutôt que d'assembler des scripts. Explorez ce que vous pouvez construire avec Eigent, ou téléchargez Eigent et commencez à construire votre propre équipe d'agents.