この記事のポイント
Nemotron 3世代(2026)はHybrid Mamba-Transformer MoE採用でLlama Nemotron世代から根本刷新
コアはNano/Super/Ultraの3サイズ、周辺にNano Omni・Nemotron 3.5 Content Safetyなど特化モデルが並ぶ
build.nvidia.comの無料試用はモデル別RPMのレート制限ベース、本番はNIMまたはHFセルフホストで運用
IQVIA・Salesforce・Siemens・ENEOSなどが業界特化エージェント基盤としてNemotronを採用中
Nemotron CoalitionではMistral・Perplexity・LangChain等が発表時8ラボから10社超に拡大し次世代Nemotron 4を共同構築

Microsoft MVP・AIパートナー。LinkX Japan株式会社 代表取締役。東京工業大学大学院にて自然言語処理・金融工学を研究。NHK放送技術研究所でAI・ブロックチェーンの研究開発に従事し、国際学会・ジャーナルでの発表多数。経営情報学会 優秀賞受賞。シンガポールでWeb3企業を創業後、現在は企業向けAI導入・DX推進を支援。
NVIDIA Nemotronは、推論LLMのNano/Super/Ultraを中核に、視覚・音声・RAG・安全性モデルを含むNVIDIAのオープンAIモデル群で、AIエージェント構築に必要な「モデル本体・訓練データ・レシピ・NIM・Agent Toolkit連携」を一式で提供するプログラムです。
2026年時点ではHybrid Mamba-Transformer MoEを採用したNemotron 3世代(コア3モデルNano/Super/Ultra、特化モデルNano Omni・Nemotron 3.5 Content Safety)が主力に切り替わり、Meta Llama派生だったLlama Nemotron世代から根本刷新されました。
本記事では、世代刷新の中身、コア3モデルの使い分け、特化モデル群の位置づけ、料金と導入ルート、build.nvidia.comからNIM本番展開までの使い方、IQVIA・Salesforce・Siemens・ENEOSなど活用事例、Nemotron Coalitionと次世代Nemotron 4のロードマップまで、2026年7月時点の最新情報で体系的に解説します。
目次
NVIDIA Nemotronとは?NVIDIAのオープンモデルプログラム
NVIDIAのオープンモデル群におけるNemotronの位置づけ
Nemotronの世代マップ:Llama NemotronからNemotron 3への刷新
Llama Nemotron世代(2025年)— Meta Llama派生のReasoning toggleモデル
Nemotron 3世代(2026年)— Hybrid Mamba-Transformer MoEへの刷新
Nemotron 4予告(2026年3月〜)— Coalitionによる共同開発
Nemotron 3ファミリーの使い分け:コア3モデルと特化モデルの構成
Nano Omni — ビジョン+音声+テキストのマルチモーダル対応
Nemotron 3.5 Content Safety — マルチモーダル入出力の安全性フィルタ
Nemotronの使い方:build.nvidia.comからNIM本番展開まで
build.nvidia.comでAPIキーを取得して即試す
Hugging Faceからダウンロードしてセルフホスト検証
Agent Toolkitと組み合わせたエージェント基盤の構築
CRM: Salesforce Agentforceとの統合
EDA(電子設計自動化): Cadence・Synopsys・SiemensのAgent Toolkit / OpenShell採用
産業オートメーション: Rockwell AutomationのエッジGenAI
【国内事例】ENEOS・NTT DATA・Sakana AI・Hitachi・avatarin
NVIDIA Open Model LicenseとOpenMDW Licenseの違いを読む
Reasoning-budget controlsの制御は誰が持つか
Nemotron CoalitionとNemotron 4のロードマップ
Nemotron Coalitionの役割 — 複数ラボによるオープンモデル共同開発
Nemotron 4の公式ロードマップ — 具体的なリリース日は未公表
NVIDIA Nemotronとは?NVIDIAのオープンモデルプログラム

NVIDIA Nemotron(エヌビディア・ネモトロン)とは、NVIDIAが提供するオープンAIモデル群で、Nano/Super/Ultraの推論LLMを中核とするAIエージェント構築用の基盤スタックです。
モデル本体だけでなく訓練データ・訓練レシピ・NVIDIA NIM microservices・NVIDIA Agent Toolkitとの連携までをオープンで提供する点が特徴です。
2025年12月に発表されたNemotron 3 Familyを機に、NemotronはエンタープライズAIエージェントの推論レイヤーで採用可能なオープンウェイト選択肢として実装フェーズに入りました。
Mistral AI・DeepSeek・Meta Llamaと並ぶオープンウェイト枠で存在感を伸ばし、NVIDIAハードウェアと組み合わせた自社ホスティングでコスト効率を出せる点が他ベンダーとの差になっています。
NVIDIAのオープンモデル群におけるNemotronの位置づけ
NVIDIAのオープン基盤モデルは目的別に3系譜が並走しており、Nemotronは推論LLM層を担当します。
- Nemotron(本記事の主題):エージェント推論・ツール呼び出し・長文推論
- NVIDIA Cosmos:物理世界シミュレーション・ワールドモデル
- NVIDIA NeMo:モデル学習・カスタマイズ・データキュレーション基盤
ここでのポイントは、Nemotronは「エージェントに推論させる中身」であり、CosmosやNeMoとは役割が完全に分かれている、という点です。
Nemotronの世代マップ:Llama NemotronからNemotron 3への刷新

Nemotronは2025年から2026年にかけて、モデルアーキテクチャそのものが一度リセットされたシリーズです。
前世代の資産を追いかけている読者と、いまから触る読者とで前提が違うため、世代関係を先に押さえてから細部に入ります。
Llama Nemotron世代(2025年)— Meta Llama派生のReasoning toggleモデル

Llama Nemotron reasoning familyは、NVIDIAが2025年3月に発表したMeta Llama派生のオープンモデル群です
NanoはLlama 3.1 8B、SuperはLlama 3.3 70B、UltraはLlama 3.1 405Bをそれぞれベースにしており、reasoning・チャット選好・RAG・ツール呼び出しなどエージェント用途にpost-trainingされた点が特徴でした。
以下の3点が、Llama Nemotron世代の技術的な独自貢献です。
-
動的なReasoning toggle
"detailed thinking on/off" というシステムメッセージで、推論モデルモードと通常チャットモードをランタイムで切り替えられる仕組みをオープンモデルとして提供
-
DeepSeek-R1と競合しつつ推論スループット優位
同時期のDeepSeek-R1と精度で並びつつ、推論スループット・メモリ効率で優位を確保
-
NIM microserviceで即座に商用デプロイ可能
Llama 3.1 Nemotron 70B Instructがbuild.nvidia.com経由でAPI提供されており、既存のNVIDIAスタックにドロップイン導入できた
Llama Nemotron世代は、build.nvidia.com上のLlama 3.1 Nemotron 70B InstructエンドポイントはDeprecated表示に切り替わっており、Partner Endpointも利用不可、モデルのダウンロードは引き続きAvailable、という状態です。
「まだLlama Nemotron 70Bで回している既存パイプラインがある」ケースは残っていますが、新規プロジェクトはコアがNemotron 3世代に移っているため、Nemotron 3から選ぶのが実務的です。
Nemotron 3世代(2026年)— Hybrid Mamba-Transformer MoEへの刷新

2025年12月にNemotron 3 Nanoが公開されて以降、NemotronはアーキテクチャそのものをLlamaから独自のHybrid Mamba-Transformer MoEに刷新しました。

Nemotron-Nano-3-30B-A3Bの層構造(Mamba-2・MoE・Attentionの繰り返しブロック)(出典:NVIDIA Developer Blog)
Nano-30B-A3Bの層構造は、Mamba-2とMoEのペアが5組続いた後に3組、次にAttention層を含む1ブロック、最後に4組のペアが並ぶ非対称な設計で、Attention層の総数を大幅に削減しています。
この構造が長文脈時のスループット改善に効いており、後述するReasoning-budget controlsとの相性も良くなっています。
以下の3点が、Nemotron 3世代の技術的な転換点です。
-
Hybrid Mamba-Transformer + Mixture-of-Experts
Self-attention層の大半をMamba-2層に置き換え、MoE(Mixture of Experts)で総パラメータの約10%だけをアクティブ化する構造。
推論スループットとメモリ効率で大きな改善が報告されている(NVIDIA公式)
-
ネイティブ100万トークン・コンテキスト
長文脈のエージェントワークフロー(数十ターンのツール呼び出し・長時間タスク)を前提設計。単発のQ&Aではなく "分単位で走るタスク" を担う想定
-
Reasoning-budget controls
Llama Nemotron世代のon/offトグルを進化させ、リクエスト単位で "思考予算" をコントロールできる。深く考えるべきタスクだけ推論トークンを増やせる
Nemotron 3世代はBlackwell GPU + NVFP4精度で最大スループットを引き出す設計を含む一方、H100向けのFP8チェックポイントやA100系での動作構成も公開されており、NVIDIA CUDA・TensorコアなどNVIDIAスタック上で世代・精度別に選択できる構成になっています。
Nemotron 4予告(2026年3月〜)— Coalitionによる共同開発

Nemotron 3の展開と並行して、NVIDIAは2026年3月16日のGTCで NVIDIA Nemotron Coalition を発表しました。
Coalitionには発表当初の8ラボに加え、GTC Taipei / Computex 2026での追加発表を経てNaver・H Company・Nous Research・Prime Intellectなどが順次参加し、2026年時点で 10社超に拡大しています。Nemotron 4のベースモデルはMistral AI + NVIDIAがDGX Cloudで共同学習する計画です。
Coalitionの公式発表で確認できる主な役割は以下のとおりです(発表に含まれない領域は「共同開発への参加」と一括で扱います)。
| Coalition参加ラボ | 公式発表で確認できる貢献領域 |
|---|---|
| Black Forest Labs | Coalitionのフロンティアモデル共同開発に参加 |
| Cursor | 実運用シナリオでの要件・評価データを提供 |
| LangChain | エージェントハーネス・評価・可観測性のノウハウを提供 |
| Mistral AI | ベースモデル共同学習(DGX Cloud上) |
| Perplexity | フロンティアモデル開発の知見を提供 |
| Reflection AI | Coalitionのオープンモデル共同開発に参加 |
| Sarvam | 音声中心・言語包摂型AIの領域を担当 |
| Thinking Machines Lab | Coalitionのオープンモデル共同開発に参加 |
| Naver(2026年に追加) | pre-training・post-training・強化学習(RL)への貢献、DGX Cloud AI factoryとの連携 |
| H Company / Nous Research / Prime Intellect(順次追加) | Coalitionの共同開発に参加 |
Nemotron 4は、Coalitionの共同開発成果が今後のNemotron 4ファミリーの基盤になるという位置づけで発表されています。
具体的なリリース日・API仕様・プロンプト互換性は現時点で未公表のため、実際の移行難易度はリリース後に再検証が必要です。
Llama Nemotron→Nemotron 3→Nemotron 4の流れを整理すると、新規採用はNemotron 3を基準にする、既存Llama Nemotron資産は継続運用しつつ移行計画を持つ、というのが実務的なスタンスになります。
Nemotron 3ファミリーの使い分け:コア3モデルと特化モデルの構成

Nemotron 3は、コア推論モデル(Nano・Super・Ultraの3サイズ)と、周辺の特化モデル群(Nano Omni・Nemotron 3.5 Content Safety・Nemotron Labs 3 Puzzleなど)で構成されるファミリーです。
エージェント基盤を組む際は、まずコア3モデルからサイズを決め、必要に応じてマルチモーダル・安全性・派生最適化などの特化モデルを組み合わせるのが基本設計になります。

Artificial Analysis Intelligence Index v3.0の12モデルスコア(Nemotron 3 Nanoが52点でGPT-oss-20B・Qwen3 VL 32Bと並ぶ)(出典:NVIDIA Developer Blog)
Nemotron 3 Nanoは3Bアクティブという小型設計にもかかわらずIntelligence Indexで 52点を記録し、GPT-oss-20BやQwen3 VL 32Bと同スコアで並んでいます。前世代のNemotron Nano 12B V2 VL(41点)やLlama 4 Scout(28点)を大きく上回っており、Nemotron 3世代への切り替え効果が数値で確認できます。
以下の表で、Nemotron 3のコア推論モデル3種を整理しました(NVIDIA公式、NVIDIA公式モデルページ、Hugging Face)。
コア推論モデル(3サイズ)
| モデル | 総パラメータ | アクティブ | 公開時期 | 想定用途 |
|---|---|---|---|---|
| Nemotron 3 Nano | 約30B | 約3B | 2025年12月15日 | サブエージェント・軽量推論・大量並列処理 |
| Nemotron 3 Super | 120B | 12B | 2026年3月11日(GTC) | メイン推論・ツール呼び出し・マルチエージェント統括 |
| Nemotron 3 Ultra | 550B | 55B | 2026年6月4日(Computex) | 最難関タスク・長文脈ミッションクリティカル |
特化モデル
| モデル | パラメータ | 公開時期 | 想定用途 |
|---|---|---|---|
| Nemotron 3 Nano Omni | 約30B(総) / 約3B(アクティブ) | 2026年4月29日 | ビジョン+音声+テキストの統合エージェント |
| Nemotron 3.5 Content Safety | 4B(Gemma 3 4B ITベース) | 2026年6月2日(モデル公開)・6月4日(発表記事) | 入出力の多言語・マルチモーダル安全性フィルタ、カスタムポリシー対応 |
| Nemotron Labs 3 Puzzle 75B-A9B | 75B(総) / 9.3B(アクティブ) | 2026年7月6日 | SuperをIterative Puzzleで圧縮した派生モデル、単一の8×B200ノード上で同等ユーザースループット制約下Super比 約2倍のサーバースループット(公式モデルカード) |
| Nemotron-Cascade-2-30B-A3B | 30B(総) / 3B(アクティブ) | 2026年3月19日 | Nano V3ベースの推論特化post-trainingモデル。数学(IMO 2025金)・コード推論(IOI 2025金・ICPC 10/12)で強い |
Nano・Super・UltraなどMoE構成のモデルは総パラメータの約10%だけをアクティブ化するため、1トークンあたりの演算量は総パラ数から想像するより小さくなります。
ただし推論時にロードすべきメモリ量は総パラ数側で決まる(アクティブ数ではない)ため、GPU要件は総パラ数ベースで見積もる必要があります(Content SafetyのようなDenseモデルはMoEではなく、常時全パラメータが有効)。
Nano — サブエージェント特化の軽量モデル

Nemotron 3 Nanoは、大量のサブエージェントを並列に走らせる用途に最適化されたモデルです。
マルチエージェント構成では、統括エージェント1体に対して数十〜数百のサブエージェントが並列で動くため、サブ側は精度よりスループットとコスト効率が優先されます。
具体的には次のようなケースがNanoの得意領域です。
- 数千件のドキュメントを個別に読み込む調査タスク
- カスタマーサポートで大量の問い合わせを並列に一次対応
- コードベース全体をファイル単位で並列レビュー
- RAGパイプラインでの取得結果の要約・スコアリング
AIエージェントフレームワークを使ってマルチエージェントを組む場合、Nanoはサブエージェント層、Superは統括エージェント層、と役割を分けるのが基本設計になります。
Super — 高スループット推論とツール呼び出しの主力

Nemotron 3 Superは、Nemotron 3ファミリーの主力モデルです。120B総パラメータ・12Bアクティブという設計で、精度・スループット・ツール呼び出し能力のバランスが取れています。
Blackwell GPU上でNVFP4精度で走らせた場合、前世代比で最大5倍のスループット改善が報告されており、複雑なマルチステップワークフローを商用レベルの速度で回せる水準です。
7言語(英語・日本語・中国語・フランス語・ドイツ語・イタリア語・スペイン語)に対応しており、日本語エージェントの主力候補としても採用が進んでいます。
Ultra — 最難関タスク向けフロンティアモデル

Nemotron 3 Ultraは、550B総パラメータ・55Bアクティブのフロンティアクラスのオープンモデルです。
Artificial Analysis Intelligence Index では2026年7月時点で 38スコア(v4.1、リリース時は旧v3.0で47.7) を記録しており、Indexの更新に伴って評価値は動きますが、オープンウェイトモデルとしては引き続き上位帯に位置しています。
Ultraは常時利用するモデルというより、ミッションクリティカルな判断・複雑な多段推論・研究開発用途での採用が想定されています。
日常的な業務エージェントはSuperで回し、Ultraは "詰まった時の最終判断" に使う、というのが実務的な運用パターンです。
Nano Omni — ビジョン+音声+テキストのマルチモーダル対応

Nemotron 3 Nano Omniは、NVIDIAが「初のオープンネイティブomni-understandingモデル」と位置づけるマルチモーダル対応モデルです。
テキスト・画像・映像・音声を単一モデルで扱え、VLM(Vision-Language Model)の系譜としてもエッジAIエージェントで採用が進んでいます。
映像フレームと音声トランスクリプトを同時に理解できる点が特徴で、業務マニュアル動画からのQ&A・製造現場のカメラ映像解析・接客ロボットの音声応答など、エージェントの入力チャネルを広げる用途に向いています。
Nemotron 3.5 Content Safety — マルチモーダル入出力の安全性フィルタ

Nemotron 3.5 Content Safety は、2026年6月2日に公開された Google Gemma-3-4B-itをベースとする4B Denseモデルです(前世代のNemotron 3 Content Safetyを統合的にアップデート)。
テキストと画像を同時にスクリーニングでき、他のNemotronモデルの前段・後段に置くことで、有害コンテンツの入出力を遮断できます。
3.5世代では、カスタム安全性ポリシーの定義とTHINKモード(推論トレース付きの安全判定)が新たに追加されており、12言語対応と多言語ゼロショット汎化も強化されています。
Nemotron以外のモデル(Claude・GPT・Llama等)と組み合わせても使えるため、業務エージェントの投入前プロンプトと応答の両方に噛ませる二段構成で運用するのが典型パターンです。
Nemotronの料金体系と4つの導入ルート

Nemotronはオープンウェイトなので、モデル自体のライセンス料はゼロです。
実際の料金は、どの経路で推論を回すかによって決まります。ここでは4つの主要ルートと、それぞれの実効コストを整理します。
4つの導入ルートの使い分け
以下の表で、Nemotronの4つの主要導入ルートと想定コストを整理しました。
| ルート | 主な用途 | 料金の目安 |
|---|---|---|
| build.nvidia.com(NVIDIA公式API) | 検証・PoC | レート制限ベースの無料試用(モデル別RPM上限は非公開、ページ右上のバーで確認) |
| サードパーティAPI(OpenRouter・DeepInfra等) | スモール〜中規模の本番運用 | Super入力 $0.08〜/1M、出力 $0.40〜/1M、Ultra入力 $0.50/1M、出力 $2.20/1M |
| NVIDIA NIM microservice | エンタープライズ本番運用 | NVIDIA AI Enterpriseセルフマネージド版のリスト価格 $4,500/GPU/年〜(複数年ライセンス付属モデル・クラウド時間課金経路など例外あり) |
| Hugging Face + vLLM/SGLangセルフホスト | フルコントロール・機密データ | ライセンス料ゼロ、実コストはGPU調達・保守・電気代・監視・人件費を含む総額 |
単価水準だけを見れば、Superの入力 $0.08/1M ・ 出力 $0.40/1Mは現行世代のフロンティア級クローズドモデル(Claude Opus・GPTの上位クラス等)と比べて1桁小さい水準に位置します。
ただし実際のTCOは呼び出し規模・入出力比率・SLA要件・データ主権要件で大きく変わるため、単価差そのものを結論にはできず、API呼び出しの安定性・SLA・データ主権・レイテンシまで含めて選ぶ必要があります。
試用:NVIDIA API Catalog

build.nvidia.comは、NVIDIA公式のホスト型モデルカタログです。
ブラウザ上のプレイグラウンドで即座に試せ、APIキーを発行すればOpenAI互換SDKからそのまま呼び出せます。
- 無料試用はモデル別のレート制限ベース(RPM上限は非公開、ページ右上のレートバー表示で確認)
- 90日評価はNVIDIA AI Enterprise(NIM本番運用)側の制度で、build.nvidia.com API単体には適用されない
- Nemotron以外のNVIDIAカタログモデル(DeepSeek・Llama・Mistral等)も同じAPIキーで叩ける
本番運用の前提には作られていないため、PoC・技術検証・プロンプト設計の試行錯誤フェーズで使う経路です。
SLAが必要な段階になったらNIMまたはサードパーティAPIに切り替えます。
中規模本番:サードパーティAPI

Nemotron 3世代は、モデルごとに提供先が異なります。
Nano/SuperはAmazon Bedrock やMicrosoft Foundry・Google Cloud・CoreWeaveなどの主要クラウド、およびDeepInfra・Fireworks・OpenRouter・Together AI・Baseten・FriendliAIなどの推論プロバイダから提供され、UltraはAmazon SageMaker JumpStartで2026年6月4日からday-zero提供されるなど、モデルごとに配信経路が分かれる形になっています。
代表的なサードパーティ経由の従量料金(2026年7月時点)を以下の表で整理しました。
| モデル | 入力単価($/1M tokens) | 出力単価($/1M tokens) |
|---|---|---|
| Nemotron 3 Nano | 無料(一部プロバイダ)〜 $0.05 | 標準ルートで $0.20前後(無料枠あり) |
| Nemotron 3 Super 120B A12B | $0.08 〜 $0.10 | $0.40 〜 $0.45 |
| Nemotron 3 Ultra 550B A55B | $0.50 | $2.20 |
Superの単価水準は現行世代のフロンティア級クローズドモデルと比べて桁違いに小さく、呼び出し規模がまだ読めないスモール〜中規模の本番運用では、初期投資なしで従量課金だけで済むサードパーティAPI経由が有利になりやすい構成です。
本番運用:NVIDIA NIM

NVIDIA NIM(NVIDIA Inference Microservices)は、NVIDIA公式の商用推論マイクロサービスです。Dockerコンテナとして自社インフラ(オンプレ・自社クラウド)にデプロイでき、SLA付きの本番運用が可能です。
- NVIDIA AI Enterpriseセルフマネージド版のリスト価格 $4,500/GPU/年〜(H100/H200等の一部GPUには複数年ライセンスが付属するモデルもあり、クラウド経由では時間課金経路もある)
- 90日無料評価ライセンスあり
- 保守更新・セキュリティパッチ・エンタープライズサポート込み
「業務データを外部APIに送りたくない・オンプレで完結したい・SLAが必要」というケースはNIMが有力な候補です。
GPU台数×年数でコストが確定するため、呼び出し量が一定水準を超えて安定運用が読める段階では従量課金より有利になりやすい一方、稼働率が低い/変動が大きい段階では逆に割高になり得ます。
自社運用:Hugging Faceセルフホスト

Nemotron 3モデルは、Hugging Face上に完全なウェイトが公開されています(Super BF16、Super FP8、Ultra BF16、Nemotron 3.5 Content Safety)。
ダウンロードしてvLLM・SGLang・llama.cpp・LM Studio・Unslothなどの推論ランタイムでセルフホストできます。
ライセンスは、Superが NVIDIA Nemotron Open Model License(商用OK・配布時にライセンス文書とNOTICE、帰属表示の保持が必要)、Ultraが OpenMDW License Agreement v1.1 です。
- 完全にオフラインで動かせる
- モデルのファインチューニング・カスタム量子化が自由
- ライセンス料はゼロだが、実コストはGPU調達・保守・電気代・ネットワーク・監視・人件費などを積み上げた総額になる
「機密データを絶対に外部に出せない・自社データで継続学習したい・独自の推論最適化を実装したい」という要件が強いケースでは、セルフホストが最有力候補になります。一方で運用工数(GPU管理・モデル更新・監視・障害対応)を自社で持ち切る必要があり、TCOの比較は「電気代だけ」でなく上記の運用コスト全体で見積もる必要があります。
Nemotronの使い方:build.nvidia.comからNIM本番展開まで
Nemotronの導入手順は「まずbuild.nvidia.comで試す → Hugging Faceでベンチマーク → NIMで本番展開」の3段階が基本パターンです。ここでは各段階の実務的な進め方を整理します。

前提条件

Nemotronを検証・本番運用するために事前に確認しておくべき条件は次のとおりです。
- NVIDIA Developer Programアカウント(build.nvidia.com利用時)
- OpenAI互換SDKに対応した開発環境(Python 3.9以降推奨)
- 本番運用時: Superの最小構成はFP8でH100-80GB × 2、BF16でH100-80GB × 8(それぞれB200/B300 × 1または × 2も可)、Ultraは複数GPU構成が必須(詳細は各Hugging Faceモデルカード参照)
- Ampere / Hopper世代GPUでも公式チェックポイント(FP8 / BF16)で動作可、Blackwell + NVFP4の最大スループット指標はH100・A100などでは適用されない
Superの「Blackwell + NVFP4で最大5倍スループット」等の数値は特定構成での比較結果です。
手元のGPU世代(Blackwell / Hopper / Ampere)と精度(NVFP4 / FP8 / BF16)に応じて、スループットの実測が必要になります。
build.nvidia.comでAPIキーを取得して即試す

まずは無料枠でNemotronがどう動くかを確認します。
- build.nvidia.com にアクセスし、NVIDIA Developer Programに登録
- Nemotron 3 Superのモデルカードを開き、右上の「Get API Key」からAPIキーを発行
- OpenAI互換SDKでエンドポイントを差し替えるだけで呼び出せる
Pythonでの最小コード例は以下のとおりです。
from openai import OpenAI
client = OpenAI(
base_url="https://integrate.api.nvidia.com/v1",
api_key="nvapi-xxxxxxxxxxxx"
)
response = client.chat.completions.create(
model="nvidia/nemotron-3-super-120b-a12b",
messages=[
{"role": "user", "content": "四半期の売上データからKPIの異常値を抽出する手順を設計してください"}
],
max_tokens=16000,
temperature=1.0,
top_p=0.95,
extra_body={"chat_template_kwargs": {"enable_thinking": True}}
)
print(response.choices[0].message.content)
このコードのポイントは複数あります。
第一に、「base_url」 を 「integrate.api.nvidia.com/v1」 に差し替えるだけで、既存のOpenAI SDKユーザーはそのままNemotronに接続できる点です。ChatGPT向けのコードベースを持っているチームなら、追加の学習コストがほぼゼロで移行検証を始められます。
第二に、「extra_body」 の 「chat_template_kwargs.enable_thinking」 を 「True/False」 で切り替えるとReasoningモードのオン・オフを制御できます。
軽い応答で十分なら 「False」、複雑な多段推論が必要な時だけ 「True」 にするのが基本設計です。低コスト運用向けに 「"low_effort": True」 を組み合わせる指定もHuggingFaceのモデルカードで公式に案内されています。
Hugging Faceからダウンロードしてセルフホスト検証

PoCで手応えが得られたら、Hugging Faceからモデルをダウンロードして自社環境で動かします。
vLLMを使った起動例は以下のとおりです。
pip install vllm
# Reasoning・ツール呼び出しを設定しない最小起動例
vllm serve nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-FP8 \
--tensor-parallel-size 4 \
--enable-expert-parallel \
--dtype auto \
--kv-cache-dtype fp8
上記はReasoningパーサーやツール呼び出しを設定しない最小起動例です。
Reasoning(「<think>」 出力の切り分け)やツール呼び出しを本番利用する場合は、公式モデルカードのQuick Start(公式検証例はvLLM 0.18.1)に沿って 「--reasoning-parser nemotron_v3」・「--enable-auto-tool-choice」・「--tool-call-parser qwen3_coder」 などのフラグを追加します。
Superの最小GPU要件は FP8 = H100-80GB × 2 (またはB200/B300 × 1)、BF16 = H100-80GB × 8 (またはB200/B300 × 2)。
上記の 「--tensor-parallel-size 4」 はFP8でH100-80GBを4枚以上使う本番例、B200/B300でFP8を単体運用する場合は 「--tensor-parallel-size 1」 に落として 「--enable-expert-parallel」 を外します。
NIM microserviceで本番展開

本番運用フェーズでは、NIMコンテナを自社インフラにデプロイします。初回利用時は事前に以下を済ませておく必要があります。
- NGCアカウント作成と NGC Personal API Key の発行
- 対象モデルの利用規約への同意(build.nvidia.comのセルフホスト画面)
- 「docker login nvcr.io」(ユーザー名 「$oauthtoken」、パスワードにNGC API Key)
- モデルキャッシュ用のローカルディレクトリを用意して 「-v」 でマウント
- 推論用に 「--shm-size=16GB」 を指定
これらを揃えたうえで、以下のようにコンテナを起動します。
export NGC_API_KEY=<発行した NGC Personal API Key>
export LOCAL_NIM_CACHE=~/.cache/nim
mkdir -p "$LOCAL_NIM_CACHE"
chmod -R a+w "$LOCAL_NIM_CACHE"
echo "$NGC_API_KEY" | docker login nvcr.io --username '$oauthtoken' --password-stdin
docker run --rm --gpus all \
-e NGC_API_KEY=$NGC_API_KEY \
-v "$LOCAL_NIM_CACHE:/opt/nim/.cache" \
--shm-size=16GB \
-p 8000:8000 \
nvcr.io/nim/nvidia/nemotron-3-super-120b-a12b:latest
初回起動時にコンテナが自動でモデルウェイトを取得しキャッシュに保存、OpenAI互換APIエンドポイントを 「localhost:8000」 に立ち上げます。既存のbuild.nvidia.com呼び出しコードを、「base_url」 の書き換えだけで本番NIMに切り替えられる設計です。
詳細な起動オプションとGPU要件別コマンドは公式デプロイ手順 を参照してください。
Agent Toolkitと組み合わせたエージェント基盤の構築

Nemotronを単体で使うのではなく、NVIDIA Agent Toolkit と組み合わせるとエージェント基盤全体が組めます。
Agent Toolkitは「エージェントを作る」フレームワーク、Nemotronは「考える」推論モデル、NVIDIA OpenShell は「ポリシー・プライバシーを担う」セキュアランタイム、NVIDIA NemoClaw は「エージェントハーネスとOpenShellをつなぐ」設計ブループリント、という役割分担が公式の推奨構成です。
MCP(Model Context Protocol)・A2Aプロトコルにも対応しているため、MCP 経由でツールを呼ばせる標準的なエージェント設計もそのまま組めます。
Nemotronの活用事例:業界別の導入パターン
ここでは公式に導入が発表されている代表事例を業界別に整理します。
Nemotronは2026年時点で、業界別の "垂直エージェント" のバックボーンモデルとして急速に採用が広がっています。
ヘルスケア: IQVIAの150+ エージェント基盤

IQVIA は、臨床試験・製薬向けデータ分析の世界最大手企業です。同社はNVIDIA Agent ToolkitとNemotronを組み合わせた統合エージェント基盤 IQVIA.ai を展開しており、社内チームおよびクライアント環境で150以上のエージェントをデプロイ済みと公表しています(NVIDIA公式)。
上位20社のうち19社の製薬企業が同基盤を利用しており、臨床開発・商用・リアルワールド業務の領域でエージェント化が進められています(NVIDIA公式、IQVIA.ai発表)。
CRM: Salesforce Agentforceとの統合

Salesforceは、Agentforce にNVIDIA Agent Toolkit + Nemotronを組み込み、顧客がサービス・営業・マーケティング向けのAIエージェントをカスタマイズできる構成にしています。
Agentforce経由でNemotronを選べる状態が広がっており、Salesforce上でエージェントを組む際の推論バックエンド選択肢の1つとして位置づけられます。
EDA(電子設計自動化): Cadence・Synopsys・SiemensのAgent Toolkit / OpenShell採用

半導体・PCB設計のAI×EDA 領域では、NVIDIA Agent ToolkitとOpenShellを軸としたエージェント基盤採用が広がっており、Nemotronはその推論バックエンドの選択肢の1つとして位置づけられます。
- Cadence: 自律AIエンジニア「ChipStack AI Super Agent」をNVIDIA OpenShell で保護する構成(公式発表)
- Synopsys: NVIDIAと組んで自律AI Engineer for chip designを構築中
- Siemens: EDAワークフローの自律オーケストレーション向けにNVIDIAスタックを採用
EDA領域は機密性の高い設計データを扱うため、セキュアランタイム(OpenShell)でエージェントを封じ込めながらオープンモデルを組み合わせる構成が選ばれやすい領域です。
具体的なモデル選定や推論基盤の内訳は、各社の公式発表・技術ブログで随時アップデートされているため、最新の構成は個別ソースを参照してください。
産業オートメーション: Rockwell AutomationのエッジGenAI

Rockwell Automationは、製造業向けの生成AI活用 構想として Nemotron-Nano-9B-v2 を採用しました。FactoryTalk Design Studio Copilot のデータで微調整した同モデルを、HMIパネル・デスクトップIDE・サーバー / プライベートクラウド環境上で動かし、設計・開発・生産・保守の各ワークフローにエッジ動作の生成AIアシスタントを組み込む構成です。
エッジGenAIは、通信が不安定なFA現場・データ主権を優先する製造ラインで需要が伸びており、Rockwellの選択は「10B規模の効率モデルをFactoryTalkドメインに特化post-trainingする」というアプローチで、オフライン運用時にも実用速度を出す好例になっています。
【国内事例】ENEOS・NTT DATA・Sakana AI・Hitachi・avatarin

日本国内でも、Nemotronの採用が2026年に入って本格化しています(NVIDIA公式、2026年7月15日発表)。
以下の表で、日本企業のNemotron活用事例を整理しました。
| 企業 | 活用領域 | 概要 |
|---|---|---|
| ENEOSホールディングス | エネルギー・材料研究 | 分子スクリーニング・触媒開発の研究プロセスをNemotronワークフローで効率化 |
| NTT DATA | 日本語基盤モデルtsuzumi 2の学習データ拡張 | Nemotron-Personas-Japanを用いてtsuzumi 2の学習データを補強、マルチエージェント基盤の検討も並行 |
| Sakana AI | モデル・オーケストレーション | 独自FuguプラットフォームにNemotronを統合、複数AIモデル間のタスクルーティングを最適化 |
| Hitachi | IT/OT統合マルチエージェント | NemotronとNVIDIA Cosmos を自社のIT/OTドメイン知識と組み合わせたマルチエージェントオーケストレーション |
| avatarin | 日本語音声・顧客対話・デジタルアバター | 日本語音声・推論、顧客対話、デジタルアバター用途でNemotronを活用 |
SB Intuitionsが自社開発する国産LLMのSarashinaシリーズは、NemotronとNeMoを学習基盤として利用して構築された独立した国産モデルです(Nemotronの派生ではありません)。
公共分野のAIユースケースでの採用も動いています。
学術界での参照——ICML 2026で145論文が引用

エンタープライズ導入と並行して、Nemotronは学術界でも急速に参照されています。ICML 2026では約145論文がNemotronを引用しており、オープンウェイトのフロンティアモデルとして研究コミュニティで参照件数が伸びている状況です。
これは実務にも波及します。ベースモデルとしてNemotronを選ぶと、最新のpost-training手法・ファインチューニング・エージェント設計のノウハウがarXiv経由で継続的に流通するため、社内のR&D効率も上がります。
Nemotron導入前に押さえたい4つの論点

Nemotronの採用を検討する際、モデル選び・料金体系よりも先に判断が必要になる論点があります。ここでは実務で頻繁に詰まる4つの論点を整理します。
NVIDIA Open Model LicenseとOpenMDW Licenseの違いを読む

Nemotron 3のモデル別のライセンスは統一されておらず、モデルによって適用ライセンスが異なります。
- Super(120B): NVIDIA Nemotron Open Model License(NVIDIA独自のpermissiveライセンス)
- Ultra(550B): OpenMDW License Agreement v1.1(Open Model Data License AgreementのNVIDIA適用版)
- Nano、Nano Omni、Content Safety: 各モデルカードで個別確認が必要
両ライセンスとも「商用利用OK・self-hosting OK」という点は共通していますが、再配布時のライセンス文書・NOTICE・著作権表示の保持義務、およびモデルウェイトからの派生モデル配布時の条件が異なります。
エンタープライズで社内カスタマイズしたウェイトを子会社間で共有するようなケースでは、法務レビューが必要です。
Blackwell最適化前提のスループット指標をどう読むか

NVIDIAが公表するSuperの「最大5倍/4倍」等のスループット指標は、B200・NVFP4精度など特定条件での比較結果です。手元にA100・H100などAmpere/Hopper世代のGPUしかない場合、公表値がそのまま当てはまるとは限らないため、構成別に自社で実測して見積もる必要があります。
- Blackwell前提の "5xスループット" 等はSuperの特定条件下での比較値
- H100(Hopper世代): FP8なら最小2基、BF16なら最小8基で動作(公式モデルカード最小構成)
- A100(Ampere世代): 公式にはチェックポイント互換性が示されているが、必要台数と性能は構成別に検証が必要
手元のGPUリソースでNemotron 3 Superを動かすベンチマークを取ってから本番判断する、というステップを飛ばさないことが重要です。
単純に「Superが速いらしい」で計画を組むと、実測で予算計画が崩れる典型パターンになります。
Reasoning-budget controlsの制御は誰が持つか

Nemotronはreasoningモードを ランタイムで切り替えられますが、これは "誰が切り替え権限を持つか" を設計しないとコストが暴走します。
- 常に 「enable_thinking=True」 で呼び出すと、簡単なQ&Aでも推論トークンが余分に消費される可能性がある
- ユーザー入力から動的に 「enable_thinking」 を切り替える場合は、判定ロジックの品質が実効コストを決める
- コスト重視なら、Nanoをデフォルトで 「enable_thinking=True」、Super/Ultraは複雑なタスクだけ明示的に有効化する設計が現実的(「low_effort=True」 オプションも活用可)
Agentic RAG やAgent Swarm型の構成では、Reasoning予算をタスクの複雑度に応じて自動判定するルータを前段に置くのが実装パターンとして定着しつつあります。
日本語精度をどこまで信頼するか

Nemotron 3 Superの対応言語には日本語が含まれていますが、業務ドメインごとの日本語精度は英語ほど検証されていません。
特に法務・医療・金融のドメイン特化タスクでは、Nemotron単体で運用する前に日本語ベンチマークを自社で取る必要があります。
- Cloudflare Workers AI上での日本語約3000問ベンチマーク結果が公開されている(Zenn takaakisuzuki)
- Sarashina3 miniなど日本語特化モデル(Nemotronの派生ではなく、SB IntuitionsがNemotronとNeMoを学習基盤に利用して構築した独立モデル)も登場しつつある
- 日本語精度が業務要件に届かない場合、Sakana AIのような日本語Fugu構成で他モデルとルーティングする選択肢もある
「オープンウェイトで日本語対応」というスペック表記だけを見てClaude Codeなどのクローズドモデルからの置き換えを決めず、業務データでの日本語A/Bテストを1回挟むのがAI総研の支援現場での定番運用です。
Nemotron CoalitionとNemotron 4のロードマップ

Nemotron 3の採用を検討する段階で、「次の世代はどうなるのか」を織り込んでおく価値があります。
ここではNemotron CoalitionとNemotron 4の公式情報を整理します。

NVIDIA Nemotron Coalition発表時の公式ビジュアル(発表時は8ラボ、その後Naver・H Company・Nous Research・Prime Intellect等が加わり10社超に拡大)(出典:NVIDIA Investor Release:発表時8ラボ/GTC Taipei・Computex 2026:追加メンバー)
Nemotron Coalitionの役割 — 複数ラボによるオープンモデル共同開発

NVIDIA Nemotron Coalition は、2026年3月16日のGTCで発表されたオープンフロンティアモデル共同開発イニシアティブです。ベースモデル学習・post-training・評価・ドメインデータなどを複数ラボで分担する構造になっています。
公式発表で確認できる範囲での役割は以下のとおりです(Coalition参加各社の詳細な分担は今後の発表で明らかになる部分もあります)。
- ベースモデル共同学習: Mistral AI + NVIDIAがNVIDIA DGX Cloud上で共同学習
- エージェント運用・ハーネス: Cursor(実運用シナリオでの要件・評価データ)、LangChain(ハーネス・評価・可観測性)
- フロンティアモデル開発の知見: Perplexity
- 音声中心・言語包摂型AI: Sarvam
- pre-training / post-training / RLへの貢献: Naver
- 共同開発への参加: Black Forest Labs、Reflection AI、Thinking Machines Lab、H Company、Nous Research、Prime Intellect等
複数ラボがpost-trainingやデータ提供で並列に関わる構造は、単一ベンダーモデル(Claude・GPT)とは異なる開発形態です。
ただし「意思決定の分散度」や「知見公開の水準」はCoalition側からも継続的に発表される内容次第のため、Nemotron 4リリース時に改めて確認するのが実務的です。
Nemotron 4の公式ロードマップ — 具体的なリリース日は未公表

Nemotron 4について、NVIDIAが公式に明言しているのは以下です。
- ベースモデルの共同学習: Mistral AI + NVIDIAがDGX Cloud上で開発中
- Coalitionメンバーからの貢献: post-training・評価・ドメイン専門知識を各ラボが分担
- オープンソース化: 学習完了後、Nemotron 4ファミリーとして公開予定
- 具体的なリリース日・パラメータ数・アーキテクチャ: 未公表
Nemotron 4の具体的なリリース時期・API仕様・プロンプト互換性は現時点で公表されていません。
「Nemotron 4を待ってから採用を決める」戦略と「Nemotron 3で先に基盤を作り込む」戦略のどちらが有利かは、リリース後の互換性・移行難易度の再検証を前提に判断する必要があります。
Nemotron 3世代を "いま採用する" 実務的な価値

Nemotron 4が予告されている状況でも、Nemotron 3世代を今採用しておく実務的な価値は残ります。今Nemotron 3を採用する3つの実務的メリットは次のとおりです。
-
既存OpenAI SDK資産をそのまま活かせる
Nemotron 3はOpenAI互換APIを前提に設計されているため、既存のOpenAI SDKベースのクライアントコード(Claude / Anthropic SDKではなく OpenAI互換の実装)から 「base_url」 を差し替えるだけで試せる。
Nemotron 4のAPI仕様は未公表だが、Nemotron 3側で得たプロンプト設計・ツール定義の知見は、次世代への再検証時にそのまま土台として使える。
-
データフライホイール型運用の先行整備
データフライホイール 型の運用(本番トラフィックから継続的にファインチューニング用データを蓄積する構成)をNemotron 3で始めておけば、Nemotron 4が出た段階で「自社データで即座にpost-trainingを試せる状態」から評価を始められる。
-
自社側の検証基盤を先取り
Nemotron 3世代で整備したAPI構成・評価基盤・エージェントハーネスの実装は、Nemotron 4が公開された段階で新旧比較検証にそのまま活用できる。
Coalition由来のpost-trainingレシピ・エコシステムツール(LangChain・Cursor等)がNemotron 4中心に発表されていくフェーズでも、自社側の "検証基盤" を先に持っておくと切り替え判断が早くなる。
この3点をまとめると、Nemotron 4を待つ間の「空白期間」ではなく、次世代に備えた検証・データ整備の助走期間としてNemotron 3世代を位置づけるのが実務的な採用方針になります。
Nemotronを自社Azureテナント内の業務Agent基盤に載せるなら
Nemotron 3世代の登場で、オープンウェイトモデルを軸にした企業AIエージェント基盤の選択肢が広がりました。ただし、モデルを選定してNIMで動かせるようにするだけでは業務は動きません。
既存業務のどこにAIを組み込むか、実行ログ・権限・監査をどう統制するか、モデル世代交代にどう追従するか——ここが本番運用の壁になります。
このレイヤーを担うのが、自社Azureテナント内で動くエンタープライズAIエージェント基盤です。
AI総合研究所のAI Agent Hubは、Teamsから呼び出せる業務特化Agent群を1つのダッシュボードで統合管理し、Nemotronのようなオープンモデルをバックエンドに据えても業務プロセス側の設計を守れる運用基盤として機能します。
- オープンモデルを自社テナント内で運用
NemotronをNIM経由で自社Azureテナント内にデプロイし、業務Agent層と接続。データは100%自社テナント内に保持され、AIの学習対象からも完全除外されます。
- モデル世代交代に耐える構成
Nemotron 3世代・4世代のように短サイクルで世代交代するモデルを、業務Agent側の設計を変えずに切り替え可能。特定モデルに深く結合したワークフローの陳腐化を防げます。
- 業務Agentと監査ログを1画面で統制
Agent単位のアクセス権限・実行ログ・セキュリティスキャンを一元管理。Human-in-the-Loopで人間承認を組み込めるため、オープンモデル特有の推論リスクを実運用でコントロールできます。
AI総合研究所の専任チームが、オープンモデル選定から業務Agent基盤の統合設計まで一貫して支援します。AI Agent Hubのサービスページで、Nemotron世代のオープンモデルを業務に載せる実装例をご確認ください。
Nemotronを自社Agent基盤に組み込む
オープンモデルを業務Agent層と統合
Nemotronのようなオープンモデルは、単体で使えるようにするだけでは業務は動きません。AI Agent Hubは、業務特化Agent群と実行ログ・権限管理・セキュリティを1つのダッシュボードに集約し、Nemotron等のオープンモデルを自社Azureテナント内で業務プロセスに載せる運用基盤として機能します。
まとめ
本記事では、NVIDIA Nemotronについて、シリーズの位置づけ・世代マップ・コア3モデルと特化モデルの使い分け・料金と導入ルート・使い方・活用事例・詰まる論点・CoalitionとNemotron 4のロードマップまでを、2026年7月時点の最新情報で解説しました。
2026年時点で押さえておくべきポイントは次の3つです。
- Nemotronは単なるLLMではなくモデル群・訓練データ・NIM・Agent Toolkit連携までを含むエージェント基盤スタックで、2026年時点はHybrid Mamba-Transformer MoE+ネイティブ1Mトークンの3世代が主力
- コアはNano/Super/Ultraの3サイズで、サブエージェントはNano・メイン推論はSuper・最難関はUltraを充てるハブ設計が基本パターン
- 導入ルートはbuild.nvidia.com無料試用/サードパーティAPI/NIM/HFセルフホストの4つで、規模と機密要件で使い分けつつIQVIA・Salesforce・Siemens・ENEOS等業界横断で採用が進む
まずはbuild.nvidia.comのレート制限付き無料試用で1回動かし、自社ユースケースでの日本語精度と推論品質を確認するのが実務的な第一歩になります。
Nemotron 4リリース後の互換性を睨みつつ、データフライホイール型の運用をNemotron 3で始めておくと次世代モデル評価時に「自社データで即座にpost-trainingを試せる状態」から始められる利点があります。













