Nemotron 3 Superのベンチマーク性能とQwen3.5・GPT-OSS比較|NVFP4・VRAM・料金

NVIDIA Nemotron 3 Superは、2026年3月11日に公開されたエージェント特化の大規模言語モデルです。総パラメータ1200億に対し、1トークンあたりに動くのは120億のみ(120B-A12B)というMoE構成に、Mamba-2状態空間モデルとTransformer注意機構、そしてLatentMoEを組み合わせたハイブリッドアーキテクチャを採用しています。狙いは、マルチエージェントで肥大化する「思考コスト」と長文脈の「コンテキスト爆発」を、アーキテクチャと学習手法の両面で抑えることにあります。本記事は、公開されている技術レポートとモデルカードの一次データをもとに、ベンチマーク上の得意・不得意、NVFP4やVRAM要件、料金とライセンスまでを整理します。

まとめ:Nemotron 3 Superはコーディングと長文脈エージェントに強い一方、汎用知識は競合に劣る

  • 正体:総1200億・活性120億のMoE(120B-A12B)。Mamba-2+注意機構+LatentMoEのハイブリッドで、100万トークンの長文脈と推論効率を両立する設計。
  • 得意:コーディングはLiveCodeBench v5で81.19%とQwen3.5-122B(78.93%)を上回る。長文脈はRULER 1Mで約91.6%を記録し、GPT-OSS-120Bの22.30%を圧倒する。エージェント/自律ワークフロー向けに軌跡ベースの強化学習で最適化されている。
  • 不得意:汎用知識のMMLU-Pro(83.73%)、科学推論のGPQA(79.23%)、会話品質のArena-Hard-V2(73.88%)はQwen3.5・GPT-OSSに劣る。SWE-Bench Verifiedも同一のOpenHands環境でQwen3.5(66.40%)に届かず60.47%。
  • 導入:build.nvidia.comの無料枠やOpenRouter、2026年にGAしたAWS Bedrock(東京リージョンを含む)などから利用可。セルフホストの最小構成は8基のH100-80GBで、BF16/FP8/NVFP4の3チェックポイントを選べる。
  • 位置づけの注意:最上位モデルは2026年6月公開のNemotron 3 Ultra(550B)へ移行済み。Superは「コスト効率重視のエージェント用途」の中核と捉えるのが実態に合う。

以下では、この結論の根拠を、アーキテクチャ・ベンチマーク・学習手法・推論モード・導入・料金の順に掘り下げます。

総1200億でも推論時120億で動くMamba・MoEハイブリッドアーキテクチャ

Nemotron 3 Superの効率性は、MoEによるスパース化とMamba-2による線形計算量の2本柱に支えられています。マルチエージェント構成では通常のチャットの十数倍のトークンが生成されるため、この2点が実運用コストを直接左右します。

1トークンあたり120億パラメータだけを起動するMoEルーティング

MoEでは各トークンの処理時に全パラメータを使わず、ルーティング機構が必要なエキスパートだけを起動します。総パラメータ1200億のうち起動するのは120億で、残りは休眠します。これにより1200億規模の知識量を保ちながら、計算コストは120億規模に抑えられます。すべての重みが毎回動く密なモデルと比べ、同一デプロイで複数エージェントを同時に走らせてもレイテンシを低く保てる点が実務上の利点です。同じMoE路線で長文脈を狙うDeepSeek V4と設計思想を共有しますが、Superは後述のMamba-2併用で長文脈側にさらに振っています。

Mamba-2レイヤーが100万トークンを線形計算量で処理する仕組み

バックボーンの大半を占めるのがMamba-2レイヤーです。状態空間モデル(SSM)はシーケンス長に対して線形の計算量で処理し、Transformerの自己注意が抱えるシーケンス長の二乗コストを回避します。100万トークンを純粋なTransformerで扱うと注意計算だけでVRAMが枯渇しますが、Mamba-2は実用的なメモリフットプリントで長文脈を処理できます。エージェントがコードベース全体や長い会話履歴を保持しながら推論する場面で、この線形スケーリングが効きます。

注意機構を戦略的に挟むハイブリッド設計とLatentMoEの通信圧縮

純粋なSSMだけでは、長い文脈から特定情報を正確に取り出す連想想起タスクで精度が落ちます。Nemotron 3 Superは全88レイヤーの中に注意機構を戦略的(select)に配置し、Mamba-2・LatentMoE・注意機構を不規則に交互配置することでこの弱点を補います。注意層が「干し草の山から針を探す」高精度検索を、Mamba-2が全体のシーケンス効率を担う役割分担です。LatentMoEはモデル次元4096を潜在次元1024へ圧縮してからルーティングするため、エキスパート間のall-to-all通信量を約4分の1に削減できます。加えてMulti-Token Prediction(MTP)用の共有重みレイヤーを持ち、投機的デコーディングをモデル内で完結させます。技術レポートではドラフト長7で平均受理長3.45を記録し、DeepSeek-R1を上回るとされています。

Qwen3.5・GPT-OSS-120Bとのベンチマーク比較で分かる得意領域と弱点

NVIDIAは同規模のオープンモデルであるQwen3.5-122B-A10BおよびGPT-OSS-120Bとの比較データを技術レポートで公開しています。全勝ではなく、得意と不得意がはっきり分かれます。導入検討では、自社のユースケースがどの評価軸に当たるかを見極めると導入判断を誤りにくくなります。

ベンチマーク Nemotron 3 Super Qwen3.5-122B-A10B GPT-OSS-120B 評価軸
LiveCodeBench v5 81.19 78.93 88.00 コーディング
SWE-Bench Verified 60.47 66.40 SWE(OpenHands)
RULER 1M 約91.6 同水準 22.30 長文脈
HMMT Feb25 93.67 数学
MMLU-Pro 83.73 86.70 汎用知識
GPQA 79.23 86.60 科学推論
Arena-Hard-V2 73.88 90.26 会話品質

数値は技術レポートTable 5に基づきます(RULERのNemotron値はモデルカードが91.75、レポートが91.64と微差)。以下、実務判断に効く4点を掘り下げます。

コーディングはQwen3.5超だがGPT-OSSには届かないLiveCodeBench 81.19%

LiveCodeBenchは学習データ汚染の影響を受けにくい現行の競技プログラミング問題を使う評価です。Nemotron 3 Superは81.19%でQwen3.5-122B(78.93%)を約2.3ポイント上回りました。汚染に強い評価での差なので実力差として信頼できます。背景には、事前学習コーパスの高品質コードデータ(Nemotron-CC-Code-v1、約4280億トークン)と、強化学習でのソフトウェアエンジニア型エージェント訓練があります。ただしGPT-OSS-120Bは同ベンチで88.00%と一段上で、純粋なコーディング精度の頂点ではありません。Superの価値は「コーディング+長文脈+エージェント制御」の総合力にあります。

長文脈RULER 1Mで91.6%、GPT-OSSの22.30%を圧倒する差の理由

100万トークン設定のRULERで、Nemotron 3 Superは約91.6%を記録しました。Qwen3.5-122Bと同水準を保ちつつ、GPT-OSS-120Bの22.30%を大きく引き離しています。この差はMamba-2の線形計算量による長文脈処理が要因です。二乗コストを抱える純粋なTransformerは超長文脈で精度と速度を両立できず、GPT-OSSの22.30%はその制約が顕在化した結果と読めます。大規模コードベースの全体分析や長期の会話追跡でこの能力が効きます。なおデフォルトのコンテキストは256Kで、100万トークンを使うには明示的なフラグ設定が必要です。

SWE-Bench Verifiedは同一OpenHands環境でQwen3.5に及ばない60.47%

ソフトウェアエンジニアリング能力を測るSWE-Bench Verifiedでは、Nemotron 3 Superは60.47%で、Qwen3.5-122Bの66.40%に約6ポイント届きません。両者は同じOpenHandsエージェントスキャフォールドで評価されており、この差はスキャフォールドの違いではなくモデル性能の差として素直に受け取るべきです。実務的には、単発のバグ修正精度そのものではQwen3.5が優位で、Superは長文脈やマルチエージェント連携と組み合わせたときに強みが出ると理解するのが妥当です。NVIDIAは評価レシピを公開しているため、自社環境での再現検証も可能です。

汎用知識MMLU-Pro・科学推論GPQA・会話品質Arena-Hardで劣る弱点と使い分け

汎用知識のMMLU-Proは83.73%でQwen3.5の86.70%に約3ポイント、科学推論のGPQAは79.23%に対しQwen3.5が86.60%で7ポイント以上、会話品質のArena-Hard-V2は73.88%でGPT-OSS-120Bの90.26%に大きく離されています。エージェントとコーディングに最適化した結果、汎用Q&Aや対話品質では競合に譲る場面があるということです。使い分けの結論は明確で、汎用チャットや高品質な対話が主用途ならQwen3.5やGPT-OSSを、エージェント構成の推論・計画担当ならSuperを選ぶのが合理的です。

NVFP4ネイティブ学習と強化学習が生む推論効率

Superの効率はアーキテクチャだけでなく学習手法にも根ざします。多くの量子化モデルが全精度で学習後に圧縮するのに対し、Superは最初の勾配更新からNVFP4(NVIDIAの4ビット浮動小数点)で事前学習しました。その後に教師あり微調整(SFT)と多環境強化学習を段階適用し、エージェント精度を高めています。

量子化前提で学習するNVFP4事前学習とB200での実効スループット

NVFP4はNVIDIA Blackwell世代向けに最適化された4ビット浮動小数点フォーマットで、Superは積和演算の大半をこのNVFP4で実行して事前学習しました。事後量子化では圧縮時に重み分布が変化し、特にMoEでは各エキスパートの特化した重みが損なわれやすい課題があります。ネイティブ学習は4ビットの制約を学習初期から織り込むため、推論時の追加精度損失をほぼ生じさせません。スループット面では、NVIDIAの公表値でB200上のNemotron 3 SuperはGPT-OSS-120B比で最大約2.2倍、Qwen3.5-122B比で最大約7.5倍の高スループットを示しています。旧世代GPUではNVFP4の恩恵が得られないため、後述のとおりFP8チェックポイントが現実解になります。Blackwell世代のGPUを前提にできるかどうかが、この効率を引き出せるかの分岐点です。

25兆トークンの事前学習とNeMo Gymによる多環境強化学習

事前学習は総25兆トークンを2フェーズ(第1フェーズ20兆+第2フェーズ5兆)で処理し、後半で推論・コーディング領域に計算を追加投入しています。データにはNemotron-CC-v2(9.13兆トークン規模の英語Common Crawl)やNemotron-CC-Code-v1(約4280億トークンのコード)、STEM推論向けの合成データが含まれ、いずれもHugging Faceで公開されています。学習は事前学習・SFT(約700万サンプル)・強化学習の3段階で、第3段階ではオープンソースのNeMo GymとNeMo RLを用いた多環境強化学習を実施します。強化学習はラウンドごとに25〜30種類の環境タイプを回し、さらにエージェント特化段では37種類の環境タイプにわたって訓練します。単発の回答品質だけでなく一連の行動全体が検証可能な基準を満たすかを評価する軌跡ベース(trajectory-based)の設計により、マルチステップ実行での推論ドリフトを抑えています。

推論モード3段階とreasoning_budgetによるコスト制御

Superの特徴の一つが推論モードの制御可能性です。高速応答と深い推論で別モデルを用意するのではなく、1つのデプロイでAPIパラメータを変えるだけで3モードを切り替えられます。NVIDIA推奨の共通設定はtemperature=1.0top_p=0.95です。

enable_thinkingとlow_effortで切り替える3モードの使い分け

第一はenable_thinking: Trueによる完全思考連鎖モードで、推論トレースを生成してから最終回答を返します。コードベース全体を踏まえたリファクタリング提案や複数条件の計画立案など、深いマルチステップ問題向きです。第二はenable_thinking: Truelow_effort: Trueを加えたモードで、推論は行いつつトレースを簡潔に抑え、中程度の複雑さのコードレビューや既知パターンの分類に適します。第三はenable_thinking: Falseの推論オフモードで、トレースを一切生成せず最小レイテンシで応答します。ITチケットの一次分類のように大量リクエストを高速に捌く用途で費用対効果が最大化します。タスクの複雑さが混在する環境では、複雑度に応じて自動でモードを振り分ける運用が検討に値します。

reasoning_budgetの挙動とトークンコストの考え方

reasoning_budgetは思考トークン数の上限を任意の正の整数で指定するパラメータです。予算を大きく取るほど深い推論が可能ですが、その分だけ出力トークンとコストが増えます。上限に達すると次の改行位置でトレースを打ち切り、500トークン以内に改行が見つからない場合はreasoning_budget+500トークンで強制終了する仕様です。注意したいのは、Superが冗長な出力を生成しやすい点です。Artificial AnalysisはIntelligence Indexの評価に約1億1000万トークンを要したと報告しており、これはgpt-oss-120bより約4割多い水準です。推論モードを有効にすると額面料金以上に出力コストが膨らむため、用途ごとにbudgetをプロファイリングし、不要な場面では推論オフや低budgetで運用すると実効コストを抑えられます。

build.nvidia.comからセルフホストまでの導入経路と推奨GPU

導入経路はクラウドAPIからセルフホストまで幅広く用意されています。まず無料枠で挙動を確かめ、本番要件に応じてマネージドかセルフホストかを選ぶ流れが現実的です。

無料枠で試す最短経路とOpenAI互換API統合

最も手軽なのはbuild.nvidia.comの無料トライアルAPIです。NVIDIAアカウントでログインしてモデルカードからAPIキーを取得し、OpenAI互換のベースURL https://integrate.api.nvidia.com/v1 に対して、モデル名 nvidia/nemotron-3-super-120b-a12benable_thinkingを含むリクエストを送るだけで統合できます。既存のOpenAIクライアントからベースURLとキーを差し替えれば動くため、評価コストはほぼゼロです。OpenRouterにもNVIDIA提供の無料エンドポイントがあり、Perplexityではプロ契約で利用できます。

セルフホストのVRAM要件・推論エンジン設定の実際

セルフホストの最小構成は8基のH100-80GBです。FP8チェックポイントで重みだけでも約120GBのVRAMを要し、これにKVキャッシュとMamba-2のSSM状態キャッシュが加わります。NVIDIAはvLLM・SGLang・TensorRT-LLMの3エンジン向けにクックブックを公開しています。SSM状態キャッシュのデータ型は、いずれのエンジンでも既定はfloat32です。vLLMではfloat16も選べますが、これはスループットを上げる代わりに出力の冗長化(実測で最大約4割増)を招く任意の最適化であり、既定ではありません。並列化はLatentMoEの特性上、純粋なテンソル並列(TP)よりエキスパート並列(EP、--enable-expert-parallel)が強く推奨されます。TensorRT-LLMにはLatentMoE専用カーネルがあり、本番の低レイテンシ運用に向きます。128GB統一メモリのDGX Spark単体構成も公式サポートで、CUTLASS MoEバックエンドとFP8 KVキャッシュを組み合わせた設定がガイドで紹介されています。

BF16・FP8・NVFP4チェックポイントとクラウド別の提供状況

チェックポイントはHugging Faceで公開され、リポジトリ名はnvidia/NVIDIA-Nemotron-3-Super-120B-A12B-BF16のようにBF16/FP8/NVFP4の各精度が用意されています。選択軸はハードウェア世代です。

チェックポイント 対応GPU世代 特徴
BF16 A100/H100/H200/B200 基準精度・メモリ最大
FP8 H100/H200/B200 精度ほぼ維持・省メモリ
NVFP4 B200(Blackwell) ネイティブ学習で最小メモリ・最速。旧世代は非対応

クラウドのマネージド提供も整いつつあります。

提供形態 プロバイダー例 状況・特徴
クラウドマネージド Google Cloud Vertex AI、Oracle Cloud 公開時点で提供
フルマネージド AWS Bedrock 2026年にGA。東京含む複数リージョン
提供予定 Microsoft Azure 公開時点で近日提供の告知
GPUクラウド CoreWeave、Crusoe、Nebius GPU特化で高スループット
推論API DeepInfra、Fireworks AI、Together AI、Baseten 従量課金で手軽
無料枠 OpenRouter、build.nvidia.com 評価目的向け

AWS BedrockでのモデルIDはnvidia.nemotron-super-3-120bです(build.nvidia.com/NIMのAPI名 nvidia/nemotron-3-super-120b-a12b とは語順が異なる点に注意)。選定は既存クラウド契約との整合、GPU確保の安定性、料金体系、SLA、データ主権要件を総合して判断します。日本国内向けにレイテンシとデータ所在を重視するなら、東京リージョンで提供されるAWS Bedrockが有力な選択肢です。

API料金・ライセンスから見る導入判断

導入判断には性能だけでなく、料金構造とライセンス条件の理解が欠かせません。NVIDIA Nemotron Open Model Licenseは商用利用を許可しつつApache 2.0やMITとは異なる条項を含み、API利用とセルフホストのどちらが得かは月間トークン量で変わります。

変動する従量課金と実効コストの見方

API料金は公開後に下落しています。公開時は入力100万トークンあたり0.30ドル・出力0.80ドルでしたが、2026年7月時点ではArtificial Analysisのブレンド値で入力約0.25ドル・出力約0.775ドル、OpenRouterの最安プロバイダーでは入力約0.08ドル・出力約0.45ドルまで下がっています。料金は提供元と時期で変動するため、最新は各プロバイダーの公式ページで確認してください。

額面以上に効くのが出力トークン量です。Superは推論モードで大量の思考トークンを生成するため、reasoning_budgetを絞るか推論オフで運用すると実効コストを大きく圧縮できます。出力速度も提供元・時期で振れ幅が大きく、公開時は1万トークン規模のワークロードで毎秒約484トークンと報告されましたが、その後のArtificial Analysisの表示は毎秒約157トークンです。スループットを前提に設計する際は、自社ワークロードでの実測を推奨します。

NVIDIA Nemotron Open Model Licenseの要点と終了条項

Superは永続的・世界的・非独占的・ロイヤリティフリーの権利を付与するNVIDIA Nemotron Open Model Licenseで公開され、モデルの使用・派生モデル作成・再配布・販売が商用目的で許可されます。NVIDIAは出力の所有権を主張せず、出力の権利と責任は利用者に帰属します。注意すべき終了条項は、モデルまたはその出力が特許または著作権を侵害するとして訴訟を提起した場合にライセンスが終了する点です。Apache 2.0にも同種の特許終了条項はありますが、MITにはこうした条項がなく、より制約の少ない利用が可能な代わりに特許保護も提供しません。通常の商用プロダクトへの組み込みやLoRA微調整による領域特化では抵触リスクは低いものの、配布形態を含めて法務部門の事前確認を経るのが安全です。

セルフホストとAPIの損益分岐と導入判断チェック

セルフホストとAPIの分岐点は月間トークン量です。最小構成の8基H100-80GBをクラウドで借りる場合、1GPUあたり時間3ドルと仮定すると8GPUで月約17,280ドルの固定費が発生します。出力100万トークンあたり0.80ドルなら、月約216億出力トークンでセルフホストと並ぶ計算です。ただしセルフホストには電力・冷却・運用人件費・ハードウェア償却が乗り、APIにはbudget次第の出力膨張が乗ります。目安として、月数億トークン以下ならAPI、数十億トークンを超える大規模運用ならセルフホストが有利に傾きます。導入がはまる条件は、(1)主用途がエージェント構成のマルチステップ(コード生成・脆弱性トリアージ・調査)であること、(2)長文脈の必要性があること、(3)推論モードの動的切り替えが活きるワークロードであること、(4)GPUがHopper世代以降(できればBlackwell)であること、(5)ライセンスが自社方針と整合すること、の5点です。汎用チャットが主目的なら他モデルの方が精度面で有利です。

コードレビュー・セキュリティ運用でのエージェント運用事例

ベンチマークだけでなく、実業務でのエージェント運用事例も報告され始めています。特にコードレビューでは第三者の検証結果が公開されており、ベンチマーク数値と現場性能のギャップを推し量る材料になります。

134KBの差分を12.5秒でレビューしCORS回帰を検出したGreptileの検証

コードレビューツールを開発するGreptileは、Nemotron 3 Superのポストトレーニング80%段階のチェックポイントでの評価を公開しています。19ファイル・134KBの差分を含むプルリクエストを、わずか2回のツール呼び出しで12.5秒でレビューし切りました。注目点は、リファクタリングに紛れたCORSの回帰バグ――ルートがCORSヘッダーを設定する前にオリジンチェックが消えていた箇所――を正確に特定したことです。さらに共有ユーティリティのリフレッシュフラグの型不整合、負の値入力時に不正な出力を生む問題も検出し、5件の指摘のうち3件が実質的なバグでした。モデルサイズから期待される水準を超える実用性を示した事例です。

セキュリティ・大量ワークロードで活きるエージェント制御と適合条件

NVIDIAはSuperの主要ユースケースにサイバーセキュリティの脆弱性トリアージを挙げています。複数エージェントが各セキュリティツールと連携し、検出・分類・優先度付け・対応提案を分担し、Superが計画層として全体を制御する構成です。100万トークンの長文脈で大量のログやアラートを保持しながらイベント間のパターンを認識できる点が効きます。判断ミスの影響が大きい領域では、完全思考連鎖をbudget高めで使い、推論トレースの監査可能性を確保するのが定石です。一方、ITチケット処理のように大量リクエストを高速に捌く業務では推論オフモードが最も費用対効果に優れます。導入企業としてPerplexity、CodeRabbit、Factory、Palantir、Cadence、Dassault Systèmes、Siemens、Greptileなどが報告されており、いずれもマルチステップの自律ワークフローでSuperを使っています。重み・データ・レシピが公開されているため、自社インフラでのカスタマイズとデータ外部流出の回避が導入を後押ししています。なお、より高い知能水準が必要な用途では、2026年6月公開のNemotron 3 Ultra(550B)が上位の選択肢として登場しており、Superはコスト効率重視の中核モデルという位置づけに移っています。

よくある質問

Nemotron 3 Superとは何ですか?

NVIDIAが2026年3月11日に公開したエージェント特化の大規模言語モデルです。総パラメータ1200億・活性120億のMoE(120B-A12B)に、Mamba-2状態空間モデルとTransformer注意機構、LatentMoEを組み合わせたハイブリッド構造を採用し、100万トークンの長文脈と推論効率を両立します。コーディングと長文脈エージェントに強い一方、汎用知識や会話品質は同規模のQwen3.5・GPT-OSSに劣ります。

Nemotron 3 Superは無料で使えますか?

評価目的なら無料で試せます。build.nvidia.comの無料トライアルAPIと、OpenRouterのNVIDIA提供無料エンドポイントが利用できます。本番運用では従量課金のAPI(DeepInfra、Fireworks AI、Together AIなど)やクラウドマネージド(Vertex AI、AWS Bedrockなど)、あるいはセルフホストを選びます。モデル自体はライセンス上、商用利用と再配布が許可されています。

セルフホストに必要なGPU・VRAMはどれくらいですか?

最小構成は8基のH100-80GBです。FP8チェックポイントで重みだけでも約120GBのVRAMを消費し、これにKVキャッシュとMamba-2のSSM状態キャッシュが加わります。Blackwell世代のB200ならNVFP4チェックポイントで最小メモリ・最速の運用が可能ですが、旧世代GPUはNVFP4非対応のためFP8が現実解です。並列化はエキスパート並列(EP)が推奨されます。

Nemotron 3 SuperとQwen3.5・GPT-OSSはどちらが優れていますか?

用途次第です。コーディング(LiveCodeBench 81.19%)と長文脈(RULER 1Mで約91.6%、GPT-OSSの22.30%を圧倒)、エージェント制御ではSuperが強みを持ちます。一方、汎用知識のMMLU-Pro(83.73%対Qwen 86.70%)、科学推論のGPQA、会話品質のArena-Hard-V2、そしてSWE-Bench Verified(60.47%対Qwen 66.40%、同一OpenHands環境)ではQwen3.5やGPT-OSSが上回ります。汎用チャット主体ならQwen3.5・GPT-OSS、エージェント用途ならSuperが目安です。

reasoning_budgetはどう設定すればよいですか?

思考トークン数の上限を正の整数で指定します。高難度のコーディングや数学推論では数千トークン以上に設定すると精度が上がり、単純タスクでは小さく絞るか推論オフにしてコストを抑えます。上限到達時は次の改行でトレースを打ち切り、500トークン以内に改行がなければbudget+500で強制終了します。Superは冗長な出力を出しやすいため、用途ごとにbudgetをプロファイリングして実効コストを管理するのが有効です。

関連記事

資料請求

RELATED POSTS 関連記事