NVIDIA Nemotron 3.5 Bolt E4B：4GBのローカルAIエージェント向けオープンモデル

NVIDIAがNemotron 3.5 Bolt E4B 4GBをリリースしました。会話機能とツール使用機能を備えたAIエージェントが、ロボット、ハンドヘルドデバイス、エントリーレベルGPU上でローカル動作できるよう設計された、同社最小のオープンモデルです。複数ターンにわたるツール呼び出しを維持しながら、エージェントの動作を約4GBのメモリに収めています。本ガイドでは、Bolt E4Bの概要、性能、必要ハードウェア、実行方法を解説し、エッジスタックへの採用を検討する際の判断材料を提供します。

Nemotron 3.5 Bolt E4Bとは？

Nemotron 3.5 Bolt E4Bは、高速なローカル会話エージェント向けの小型オープン言語モデルです。NVIDIAの説明によると、会話エージェントにおけるギガバイトあたりの速度と知性を最適化した最新のオープン小型言語モデルです。デバイス・音声アシスタント、インタラクティブキャラクター、組み込み・産業用エージェントの3つのワークロードをターゲットとしています。

重要な特徴はそのサイズです。このモデルは**総パラメータ数80億（8B）ながら実効パラメータは40億（4B）**で、64Kのコンテキストウィンドウを持ち、テキストのみの入出力に対応しています。名称の「4GB」は、量子化ビルドが対象ワークロードで使用するメモリ量を指しており、ダウンロードサイズ（これより大きい）ではありません。NVIDIAはOpenMDW-1.1ライセンスのもとで提供しており、オープンウェイト、データ、トレーニングレシピが公開されています。

Bolt E4Bはゼロから学習されたモデルではありません。GoogleのGemma 4 E4BをベースにNVIDIAのNemotronポストトレーニングを適用しています。「E」は*実効（effective）*パラメータを意味し、モデルは8Bのウェイトを持ちながら、トークンごとに約4Bを活性化します。

2026年10月23日にリリースされ、NVIDIAが同月に展開した3つのオープンNemotron 3.5モデルの最後を飾りました。120BのNemotron 3.5 Super VLビジョン言語モデルと24GBのBolt 74B-A9Bと並んで登場しています。Super VLがデータセンター向けエージェントをターゲットとするのに対し、Bolt E4Bは正反対の位置づけ——ロボティクスコントローラーや組み込みデバイスに収まるほど小型です。

Bolt E4Bの設計思想

NVIDIAはBolt E4Bを、コーディングリーダーボードの上位を狙うためではなく、会話エージェントの実際の動作に合わせて設計しました。主な特徴は以下の通りです：

• マルチターンのツール使用 — 会話全体を通じてアプリケーションAPIを呼び出してタスクを実行。非同期ツール呼び出しのガイダンスも提供。
• 会話モード — 自然なやり取りのために、簡潔で音声対応の返答を促すトグル機能。
• 設定可能な推論 — 難しいリクエストには推論をオン、高速応答が必要な場合はオフに切り替え可能。レイテンシ目標に合わせて「思考」時間を制限するオプションも搭載。
• 64Kコンテキスト — 会話履歴、指示、ツール定義、取得データ、アプリ状態を格納するのに十分な容量。
• 多言語対応 — 35言語をサポート。140以上の言語で事前学習されたベースモデルを基盤としています。

これらの特徴から、ターゲットとなるユースケースが明確になります：ローカル音声・デバイスアシスタント（PC、モバイル、車載）、ゲームNPCやコンパニオンなどのインタラクティブキャラクター、ロボティクスや産業用IoTのヒューマンマシンインターフェースです。

NVIDIAのローンチデモはエッジ向けの優位性を具体的に示しています。Reachy MiniロボットがJetson Orin Nano 8GB上で動作し、Bolt E4Bが会話とツール呼び出しを担当、Cosmos 3 Edgeがリアルタイムビジョンを提供します。2つ目のデモでは、鍛冶屋NPCがアイテムの支払いを確認した後、自律的にツールを呼び出してレシピを確認し、素材を集め、アイテムを作成して手渡す——これがまさにこれらの小型エージェントが得意とする、対話とアクションが交互に絡み合うループです。

Nemotron 3.5 Bolt E4Bのベンチマーク

NVIDIAは評価を5つの能力カテゴリに分類し、Bolt E4Bを同サイズの競合モデルと比較しています：自社のNemotron 3 Nano 4B、Qwen 3.5 4B、ベースのGemma 4 E4Bです。以下のスコアはすべてNVIDIA報告値（BF16）であるため、第三者による再現が確認されるまではベンダー数値として参照してください。

会話とツール使用において、Bolt E4Bは概ねそのサイズクラスでトップに立っています：

すべての項目でトップというわけではありません。Qwen 3.5 4BはTau2-Bench（75.1対55.1）と一部の長文コンテキスト検索でリードしており、64KのRULERではQwen（95.1）とNano（91.5）がBolt（87.0）を上回っています。NVIDIAの総括によると、Bolt E4BはNemotron 3 Nano 4Bより平均約40%高いスコアを記録し、評価した他の競合モデルより約10%高いとのことです。また、推論有効時の比較では出力トークン数が最大80%削減されています。トークン数が少ないということは、デコード処理が軽くなり、コストが下がり、多くの場合応答も速くなることを意味します。

ローンチ時に第三者の評価も登場しました。NVIDIAのXポストによると、Scale LabsがMultiChallengeで小型モデルの中でBoltを56.03%で1位にランク付けし、Gemma 4 E4Bに約12.8ポイントの差をつけました——NVIDIAの自社MultiChallenge数値と方向性が一致しています。

必要メモリと処理速度

ここで「4GB」という主張の根拠が明らかになります。NVIDIAはllama.cppを使用し、代表的なハードウェアでバッチサイズ1のQ4_K_Mビルドを計測しました：

デスクトップのRTXカードでは約0.5秒で応答し、約3.5GBで100トークン/秒以上のストリーミングが可能です。8GBのJetson Orin Nanoでも動作しますが、初回トークン生成に数秒かかり、約15トークン/秒となります。これがNVIDIAが同一ボード上に重いモデルを積み重ねるのではなく、軽量ビジョンモデルと組み合わせる理由です。

差を縮めるための2つの最適化：

• DFlash並列ドラフター — 1回のフォワードパスでドラフトトークンを提案する投機的デコードドラフター。NVIDIAはGemma 4 E4Bのオリジナルドラフターと比較して最大21%のスループット向上を報告しています。
• imatrixキャリブレーション付きQ4_K_M — NVIDIAは同じトレーニングステップのRLロールアウトから約100万トークンを使用してBF16チェックポイントを量子化し、フル精度モデルに近い品質を維持しています。

Bolt E4Bのトレーニング方法

Bolt E4Bはポストトレーニングの成果です。NVIDIAはGemma4-E4B-itをベースに、指示追従、マルチターンツール呼び出し、会話のための環境でNemotronポストトレーニングを適用しました。手法は強化学習のみ — 検証可能な報酬による強化学習（RLVR）と人間のフィードバックからの強化学習（RLHF）で、NeMo-RLとNeMo-Gymで実行されています。

モデルを冗長にならず高速に保つため、NVIDIAは非推論精度を重視し、バッチごとに非推論サンプルと推論サンプルの比率を2:1に維持し、トレーニングが回答を長くする傾向に対して長さペナルティを追加しました。完全なレシピとデータセットはウェイトとともに公開されています。

Nemotron 3.5 Bolt E4Bの実行方法

NVIDIAは複数のチェックポイントを提供しています——デプロイ用のQ4_K_M GGUF、DFlashドラフター、BF16 HFチェックポイント——そして複数の開始方法を案内しています：Hugging Face、Ollama、LM Studio、Unsloth、Canonical、Jetson AI Lab、NVIDIA In-Game Inferencing SDKです。

最もシンプルなローカル実行方法：

1. デスクトップ（RTX）。 OllamaまたはLM Studio経由でGGUFを取得し、他のローカルモデルと同様に実行します——最新のRTXカードではサブ秒の応答が期待できます。
2. Jetson / エッジ。 Jetson AI Labガイドを使用します。llama.cppコンテナを実行してNemotron-3.5-Bolt-E4B-Q4_K_M.ggufをダウンロードし、ポート8000でOpenAI互換APIを提供します。
3. アプリ統合。 サーバーがOpenAI APIを話すため、ベースURLを変更するだけで既存のエージェントコードを向けることができます——モデルカードにはenable_thinkingとconversational_modeのトグルが記載されています。

実行中のllama.cppサーバーへの最小限の呼び出しは、モデルID nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GBを使用した/v1/chat/completionsへの標準的なチャット補完リクエストです。

採用すべきか？

Bolt E4Bは、ローカルで動作し、高速に応答し、同一デバイス上の音声やビジョンモデルのためにメモリの余裕を残す必要がある音声アシスタント、ゲームNPC、ロボットを構築している場合に最適です。プライバシー、レイテンシ、またはオフライン動作の要件からクラウドモデルが使えない場合に適したツールです。

深い推論、長文コンテキスト検索、エージェント的なコーディングが必要な場合はあまり適していません——同じNemotronファミリーの兄弟モデル（マルチステップ作業向けのBolt 74B-A9B、ドキュメントとビジョン向けのSuper VL）やフロンティアモデルの方が適しています。また、Nemotronファミリー全体と同様に、スムーズな動作はNVIDIAハードウェア上で実現されます。

最近の他の小型・オープンウェイトモデルのリリースとの比較については、Muse Spark OpenとReflection Beamの解説をご覧ください。

自分のハードウェアでローカルエージェントチームを構築する

Bolt E4BはエッジAIの進む方向を示しています：目の前のデバイス上で動作する、ツール使用能力を持つ有能なエージェントです。Eigentはオープンソースのコワーク（Cowork）デスクトップアプリで、AIエージェントのチームをローカルでオーケストレーションします。スクリプトをつなぎ合わせる代わりに、ローカルモデルと独自のツールを実際のマルチステップワークフローに組み込むことができます。Eigentで構築できることを探索するか、Eigentをダウンロードして自分だけのエージェントチームの構築を始めましょう。