NVIDIA Nemotron 3.5 Bolt E4B: El modelo abierto de 4GB para agentes de IA locales

NVIDIA acaba de lanzar Nemotron 3.5 Bolt E4B 4GB, su modelo abierto más pequeño hasta la fecha — diseñado para que un agente de IA conversacional con uso de herramientas pueda ejecutarse localmente en un robot, un dispositivo portátil o una GPU de nivel básico. Integra el comportamiento de agente en aproximadamente 4GB de memoria mientras sigue llamando herramientas en múltiples turnos. Esta guía explica qué es Bolt E4B, cómo rinde, qué hardware necesita y cómo ejecutarlo, para que puedas decidir si pertenece a tu stack de edge computing.

¿Qué es Nemotron 3.5 Bolt E4B?

Nemotron 3.5 Bolt E4B es un modelo de lenguaje pequeño y abierto para agentes conversacionales locales rápidos. NVIDIA lo describe como su último modelo de lenguaje pequeño abierto optimizado para velocidad e inteligencia por gigabyte en agentes conversacionales. Apunta a tres cargas de trabajo: asistentes de dispositivos y voz, personajes interactivos, y agentes embebidos o industriales.

El detalle clave es su tamaño. El modelo tiene 8 mil millones de parámetros totales pero solo 4 mil millones efectivos, con una ventana de contexto de 64K y entrada y salida solo de texto. El "4GB" en el nombre hace referencia a la memoria que apunta la compilación cuantizada en sus cargas de trabajo previstas — no a la descarga, que es mayor. NVIDIA lo distribuye bajo la licencia OpenMDW-1.1, y el lanzamiento incluye pesos abiertos, datos y recetas de entrenamiento.

Bolt E4B no se entrena desde cero. Se basa en Gemma 4 E4B de Google con el post-entrenamiento Nemotron de NVIDIA — la "E" denota parámetros efectivos, por lo que el modelo lleva 8B de pesos pero activa aproximadamente 4B por token.

Llegó el 23 de octubre de 2026, el último de los tres modelos abiertos Nemotron 3.5 que NVIDIA lanzó durante el mes, junto al modelo de visión-lenguaje Nemotron 3.5 Super VL de 120B y el Bolt 74B-A9B de 24GB. Mientras Super VL apunta a agentes de centros de datos, Bolt E4B se sitúa en el extremo opuesto: lo suficientemente pequeño para controladores de robótica y dispositivos embebidos.

Para qué está diseñado Bolt E4B

NVIDIA diseñó Bolt E4B en torno a cómo se comportan realmente los agentes conversacionales, no para encabezar un ranking de programación. Sus características principales:

• Uso de herramientas en múltiples turnos — llama a APIs de aplicaciones para realizar tareas a lo largo de una conversación, con orientación para llamadas de herramientas asíncronas.
• Modo conversacional — un interruptor que fomenta respuestas concisas y listas para voz, para un intercambio natural.
• Razonamiento configurable — activa el razonamiento para solicitudes difíciles o desactívalo para respuestas más rápidas, con opciones para limitar el "pensamiento" y alcanzar objetivos de latencia.
• Contexto de 64K — suficiente para historial de conversación, instrucciones, definiciones de herramientas, datos recuperados y estado de la aplicación.
• Multilingüe — compatibilidad con 35 idiomas, sobre un modelo base preentrenado en más de 140.

Las experiencias objetivo se derivan de eso: asistentes locales de voz y dispositivos (PC, móvil, en el coche), personajes interactivos como NPCs y compañeros de videojuegos, e interfaces hombre-máquina para robótica e IoT industrial.

La demo de lanzamiento de NVIDIA hace concreta la propuesta de edge computing. Un robot Reachy Mini funciona en un Jetson Orin Nano 8GB, con Bolt E4B gestionando la conversación y las llamadas a herramientas mientras Cosmos 3 Edge proporciona visión en tiempo real. En una segunda demo, un NPC herrero verifica el pago de un artículo, luego llama de forma autónoma a herramientas para comprobar recetas, recoger ingredientes, fabricar el artículo y entregarlo — el tipo de bucle entrelazado de diálogo más acción para el que están diseñados estos pequeños agentes.

Benchmarks de Nemotron 3.5 Bolt E4B

NVIDIA agrupa sus evaluaciones en cinco capacidades y compara Bolt E4B con modelos de tamaño similar: su propio Nemotron 3 Nano 4B, Qwen 3.5 4B y el Gemma 4 E4B base. Todas las puntuaciones a continuación son reportadas por NVIDIA (BF16), así que trátelas como cifras del fabricante hasta que terceros las reproduzcan.

En conversación y uso de herramientas, Bolt E4B generalmente lidera en su clase de tamaño:

No gana en todo — Qwen 3.5 4B lidera en Tau2-Bench (75.1 vs 55.1) y en algunas recuperaciones de contexto largo, donde RULER a 64K favorece a Qwen (95.1) y Nano (91.5) sobre Bolt (87.0). El propio resumen de NVIDIA es que Bolt E4B puntúa aproximadamente un 40% más alto en promedio que Nemotron 3 Nano 4B y alrededor de un 10% más alto que otros modelos comparados, mientras usa hasta un 80% menos de tokens de salida en comparaciones con razonamiento activado. Menos tokens significa menos trabajo de decodificación, menor coste y, a menudo, respuestas más rápidas.

Una señal de terceros apareció en el lanzamiento: según una publicación en X de NVIDIA, Scale Labs clasificó a Bolt primero entre los modelos pequeños en MultiChallenge con un 56.03%, aproximadamente 12.8 puntos por encima de Gemma 4 E4B — coherente con la propia cifra de MultiChallenge de NVIDIA.

¿Cuánta memoria necesita y qué velocidad alcanza?

Aquí es donde se fundamenta la afirmación de "4GB". NVIDIA midió la compilación Q4_K_M con tamaño de lote 1 en llama.cpp en hardware representativo:

Así que en una tarjeta RTX de escritorio el modelo responde en aproximadamente medio segundo y transmite bien por encima de 100 tokens/seg en ~3.5GB. En un Jetson Orin Nano de 8GB, todavía cabe — pero espera un primer token de varios segundos y aproximadamente 15 tokens/seg, razón por la que NVIDIA lo combina con un modelo de visión ligero en lugar de apilar modelos más pesados en la misma placa.

Dos optimizaciones ayudan a cerrar la brecha:

• DFlash parallel drafter — un borrador de decodificación especulativa que propone tokens borrador en un solo paso hacia adelante; NVIDIA reporta hasta un 21% más de rendimiento que el borrador original de Gemma 4 E4B.
• Q4_K_M con calibración imatrix — NVIDIA cuantizó el checkpoint BF16 usando aproximadamente 1M de tokens de rollouts de RL del mismo paso de entrenamiento, manteniendo la calidad cercana al modelo de precisión completa.

¿Cómo se entrenó Bolt E4B?

Bolt E4B es una historia de post-entrenamiento. NVIDIA partió de Gemma4-E4B-it y aplicó el post-entrenamiento Nemotron en entornos para seguimiento de instrucciones, llamadas de herramientas en múltiples turnos y conversación. El método es solo aprendizaje por refuerzo — RL con recompensas verificables (RLVR) y retroalimentación humana (RLHF), ejecutado en NeMo-RL y NeMo-Gym.

Para mantener el modelo rápido en lugar de verboso, NVIDIA enfatizó la precisión sin razonamiento, mantuvo una proporción de 2:1 de muestras sin razonamiento frente a muestras con razonamiento por lote, y añadió penalizaciones de longitud para frenar la verbosidad a medida que el entrenamiento alargaba las respuestas. La receta completa y los conjuntos de datos se publican junto con los pesos.

Cómo ejecutar Nemotron 3.5 Bolt E4B

NVIDIA distribuye múltiples checkpoints — un GGUF Q4_K_M para despliegue, un borrador DFlash y un checkpoint HF BF16 — y enumera varias formas de comenzar: Hugging Face, Ollama, LM Studio, Unsloth, Canonical, Jetson AI Lab y el NVIDIA In-Game Inferencing SDK.

Los caminos locales más sencillos:

1. Escritorio (RTX). Descarga el GGUF a través de Ollama o LM Studio y ejecútalo como cualquier otro modelo local — espera respuestas de menos de un segundo en una tarjeta RTX moderna.
2. Jetson / edge. Usa la guía de Jetson AI Lab, que ejecuta un contenedor llama.cpp que descarga Nemotron-3.5-Bolt-E4B-Q4_K_M.gguf y sirve una API compatible con OpenAI en el puerto 8000.
3. Integración en aplicaciones. Dado que el servidor habla la API de OpenAI, puedes apuntar el código de agente existente hacia él cambiando la URL base — la tarjeta del modelo documenta los interruptores enable_thinking y conversational_mode.

Una llamada mínima contra un servidor llama.cpp en ejecución es una solicitud estándar de chat-completions a /v1/chat/completions con el id de modelo nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB.

¿Deberías usarlo?

Bolt E4B es una opción sólida si estás construyendo un asistente de voz, un NPC de videojuego o un robot que debe ejecutarse localmente, responder rápido y dejar margen de memoria para modelos de voz o visión en el mismo dispositivo. Es la herramienta adecuada cuando la privacidad, la latencia o la operación sin conexión a internet descartan un modelo en la nube.

Es menos atractivo si necesitas razonamiento profundo, recuperación de contexto largo o programación agéntica — sus propios hermanos (Bolt 74B-A9B para trabajo de múltiples pasos, Super VL para documentos y visión) o un modelo de frontera los servirán mejor. Y como el resto de la familia Nemotron, el camino más fluido pasa por hardware de NVIDIA.

Para comparar esto con otros lanzamientos recientes de modelos pequeños y de pesos abiertos, consulta nuestros análisis de Muse Spark Open y Reflection Beam.

Construye un equipo de agentes locales en tu propio hardware

Bolt E4B muestra hacia dónde se dirige la IA en el edge: agentes capaces con uso de herramientas que se ejecutan en el dispositivo que tienes delante. Eigent es una aplicación de escritorio Cowork de código abierto que orquesta un equipo de agentes de IA localmente, para que puedas conectar modelos locales y tus propias herramientas en flujos de trabajo reales de múltiples pasos en lugar de pegar scripts. Explora lo que puedes construir con Eigent, o descarga Eigent y empieza a construir tu propio equipo de agentes.