NVIDIA Nemotron 3.5 Bolt E4B: O Modelo Open de 4GB para Agentes de IA Locais

A NVIDIA acaba de lançar o Nemotron 3.5 Bolt E4B 4GB, seu menor modelo open até agora — desenvolvido para que um agente de IA conversacional com uso de ferramentas possa rodar localmente em um robô, um dispositivo portátil ou uma GPU de entrada. Ele comprime o comportamento de agente em aproximadamente 4GB de memória, mantendo a capacidade de chamar ferramentas ao longo de múltiplos turnos. Este guia explica o que é o Bolt E4B, como ele performa, qual hardware ele exige e como executá-lo, para que você possa decidir se ele pertence ao seu stack de edge computing.

O que é o Nemotron 3.5 Bolt E4B?

O Nemotron 3.5 Bolt E4B é um modelo de linguagem open pequeno para agentes conversacionais locais e rápidos. A NVIDIA o descreve como seu mais recente modelo de linguagem open pequeno, otimizado para velocidade e inteligência por gigabyte em agentes conversacionais. Ele tem como alvo três cargas de trabalho: assistentes de dispositivos e voz, personagens interativos e agentes embarcados ou industriais.

O detalhe principal é seu tamanho. O modelo possui 8 bilhões de parâmetros totais, mas apenas 4 bilhões efetivos, com uma janela de contexto de 64K e entrada e saída somente em texto. O "4GB" no nome se refere à memória que a build quantizada almeja em suas cargas de trabalho pretendidas — não ao download, que é maior. A NVIDIA o distribui sob a licença OpenMDW-1.1, e o lançamento inclui pesos abertos, dados e receitas de treinamento.

O Bolt E4B não foi treinado do zero. Ele é baseado no Gemma 4 E4B do Google com o pós-treinamento Nemotron da NVIDIA — o "E" denota parâmetros efetivos, portanto o modelo carrega 8B de pesos, mas ativa aproximadamente 4B por token.

Ele chegou em 23 de outubro de 2026, o último dos três modelos open Nemotron 3.5 que a NVIDIA lançou ao longo do mês, ao lado do modelo de visão-linguagem Nemotron 3.5 Super VL de 120B e do Bolt 74B-A9B de 24GB. Enquanto o Super VL tem como alvo agentes em data centers, o Bolt E4B fica na extremidade oposta: pequeno o suficiente para controladores de robótica e dispositivos embarcados.

Para que o Bolt E4B foi desenvolvido

A NVIDIA projetou o Bolt E4B em torno de como os agentes conversacionais realmente se comportam, não para liderar um leaderboard de programação. Seus recursos principais:

• Uso de ferramentas em múltiplos turnos — ele chama APIs de aplicações para realizar tarefas ao longo de uma conversa, com orientação para chamadas de ferramentas assíncronas.
• Modo conversacional — um toggle que incentiva respostas concisas e prontas para fala, para um diálogo natural.
• Raciocínio configurável — ative o raciocínio para solicitações difíceis ou desative para respostas mais rápidas, com opções para limitar o "pensamento" e atingir metas de latência.
• Contexto de 64K — suficiente para histórico de conversa, instruções, definições de ferramentas, dados recuperados e estado da aplicação.
• Multilíngue — suporte para 35 idiomas, em um modelo base pré-treinado em mais de 140.

As experiências-alvo decorrem disso: assistentes de voz e dispositivos locais (PC, mobile, no carro), personagens interativos como NPCs e companheiros de jogos, e interfaces homem-máquina para robótica e IoT industrial.

A demo de lançamento da NVIDIA torna o argumento para edge computing concreto. Um robô Reachy Mini roda em um Jetson Orin Nano 8GB, com o Bolt E4B gerenciando a conversa e as chamadas de ferramentas enquanto o Cosmos 3 Edge fornece visão em tempo real. Em uma segunda demo, um NPC ferreiro verifica o pagamento por um item e, em seguida, chama ferramentas de forma autônoma para verificar receitas, coletar ingredientes, fabricar o item e entregá-lo — o tipo de loop intercalado de diálogo e ação para o qual esses pequenos agentes foram projetados.

Benchmarks do Nemotron 3.5 Bolt E4B

A NVIDIA agrupa suas avaliações em cinco capacidades e compara o Bolt E4B com modelos de tamanho similar: seu próprio Nemotron 3 Nano 4B, Qwen 3.5 4B e o Gemma 4 E4B base. Todas as pontuações abaixo são reportadas pela NVIDIA (BF16), portanto, trate-as como números do fabricante até que terceiros as reproduzam.

Em conversa e uso de ferramentas, o Bolt E4B geralmente lidera em sua classe de tamanho:

Ele não vence em tudo — o Qwen 3.5 4B lidera no Tau2-Bench (75,1 vs 55,1) e em algumas recuperações de contexto longo, onde o RULER em 64K favorece o Qwen (95,1) e o Nano (91,5) em relação ao Bolt (87,0). O próprio resumo da NVIDIA é que o Bolt E4B pontua aproximadamente 40% acima da média em relação ao Nemotron 3 Nano 4B e cerca de 10% acima dos outros concorrentes avaliados, usando até 80% menos tokens de saída em comparações com raciocínio habilitado. Menos tokens significa menos trabalho de decodificação, menor custo e, frequentemente, respostas mais rápidas.

Um sinal de terceiros apareceu no lançamento: de acordo com um post no X da NVIDIA, a Scale Labs classificou o Bolt em primeiro lugar entre os modelos pequenos no MultiChallenge com 56,03%, cerca de 12,8 pontos à frente do Gemma 4 E4B — direcional mente consistente com o próprio número do MultiChallenge da NVIDIA.

Quanta memória e qual a velocidade?

É aqui que a afirmação "4GB" se concretiza. A NVIDIA mediu a build Q4_K_M com tamanho de lote 1 no llama.cpp em hardware representativo:

Portanto, em uma placa RTX desktop, o modelo responde em cerca de meio segundo e transmite bem mais de 100 tokens/seg em ~3,5GB. Em um Jetson Orin Nano de 8GB, ele ainda cabe — mas espere um primeiro token com vários segundos de espera e aproximadamente 15 tokens/seg, o que explica por que a NVIDIA o combina com um modelo de visão leve em vez de empilhar modelos mais pesados na mesma placa.

Duas otimizações ajudam a fechar essa lacuna:

• DFlash parallel drafter — um drafter de decodificação especulativa que propõe tokens de rascunho em um único passo forward; a NVIDIA reporta até 21% mais throughput do que o drafter original do Gemma 4 E4B.
• Q4_K_M com calibração imatrix — a NVIDIA quantizou o checkpoint BF16 usando cerca de 1M de tokens de rollouts de RL da mesma etapa de treinamento, mantendo a qualidade próxima ao modelo de precisão total.

Como o Bolt E4B foi treinado?

O Bolt E4B é uma história de pós-treinamento. A NVIDIA partiu do Gemma4-E4B-it e aplicou o pós-treinamento Nemotron em ambientes para seguimento de instruções, chamada de ferramentas em múltiplos turnos e conversação. O método é somente aprendizado por reforço — RL com recompensas verificáveis (RLVR) e por feedback humano (RLHF), executado no NeMo-RL e NeMo-Gym.

Para manter o modelo rápido em vez de prolixo, a NVIDIA enfatizou a precisão sem raciocínio, manteve uma proporção de 2:1 de amostras sem raciocínio para amostras com raciocínio por lote, e adicionou penalidades de comprimento para conter a verbosidade à medida que o treinamento tornava as respostas mais longas. A receita completa e os conjuntos de dados são publicados junto com os pesos.

Como executar o Nemotron 3.5 Bolt E4B

A NVIDIA distribui múltiplos checkpoints — um GGUF Q4_K_M para implantação, um drafter DFlash e um checkpoint HF BF16 — e lista várias formas de começar: Hugging Face, Ollama, LM Studio, Unsloth, Canonical, Jetson AI Lab e o NVIDIA In-Game Inferencing SDK.

Os caminhos locais mais simples:

1. Desktop (RTX). Baixe o GGUF via Ollama ou LM Studio e execute-o como qualquer outro modelo local — espere respostas abaixo de um segundo em uma placa RTX moderna.
2. Jetson / edge. Use o guia do Jetson AI Lab, que executa um container llama.cpp que baixa o Nemotron-3.5-Bolt-E4B-Q4_K_M.gguf e serve uma API compatível com OpenAI na porta 8000.
3. Integração com aplicações. Como o servidor fala a API OpenAI, você pode apontar o código de agente existente para ele trocando a URL base — o model card documenta os toggles enable_thinking e conversational_mode.

Uma chamada mínima contra um servidor llama.cpp em execução é uma requisição padrão de chat-completions para /v1/chat/completions com o id de modelo nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB.

Você deve usá-lo?

O Bolt E4B é uma ótima opção se você está desenvolvendo um assistente de voz, NPC de jogo ou robô que precisa rodar localmente, responder rapidamente e deixar espaço de memória para modelos de fala ou visão no mesmo dispositivo. É a ferramenta certa quando privacidade, latência ou operação sem internet descartam um modelo em nuvem.

É menos atraente se você precisa de raciocínio profundo, recuperação de contexto longo ou programação agêntica — seus próprios irmãos (Bolt 74B-A9B para trabalho em múltiplas etapas, Super VL para documentos e visão) ou um modelo de fronteira servirão melhor para esses casos. E, como o restante da família Nemotron, o caminho mais tranquilo passa pelo hardware NVIDIA.

Para comparar com outros lançamentos recentes de modelos pequenos e de pesos abertos, veja nossas análises do Muse Spark Open e do Reflection Beam.

Monte uma equipe de agentes locais no seu próprio hardware

O Bolt E4B mostra para onde a IA de edge está caminhando: agentes capazes, com uso de ferramentas, que rodam no dispositivo à sua frente. O Eigent é um aplicativo desktop open-source de Cowork que orquestra uma equipe de agentes de IA localmente, para que você possa conectar modelos locais e suas próprias ferramentas em fluxos de trabalho reais de múltiplas etapas, em vez de colar scripts. Explore o que você pode construir com o Eigent ou baixe o Eigent e comece a montar sua própria equipe de agentes.