--- title: "Groq 3 LPU（LPX）とは？NVIDIAの推論チップの仕組み・GPUとの違い・出荷状況【2026年10月】" url: "https://www.issoh.co.jp/tech/details/11446/" published: 2026-03-19 updated: 2026-10-08 categories: ["AI"] publisher: "株式会社一創" --- # Groq 3 LPU（LPX）とは？NVIDIAの推論チップの仕組み・GPUとの違い・出荷状況【2026年10月】 Groq 3 LPUは、NVIDIAがGroq社からライセンスを受けた技術で作った推論専用プロセッサーです。チップ1基に500MBのSRAMを積み、これをキャッシュではなく主記憶として使います。256基を1ラックにまとめた製品がGroq 3 LPXで、Vera Rubin NVL72のGPUラックと並べて、トークン生成（decode）の一部を肩代わりします。 この記事では、2026年3月のGTC 2026での発表と、8月24日の量産入りの発表をもとに、仕様・GPUとの分担・性能値の前提条件・入手経路を整理します。Vera Rubinプラットフォーム全体は[NVIDIA Rubin（Vera Rubin）の解説](/tech/details/10506/)、Groq社のクラウドAPIの使い方は[GroqのLPU推論APIの解説](/tech/details/17535/)で扱っています。 ## まとめ：Groq 3 LPUとLPXの要点 - **正体**：NVIDIAがVera Rubinプラットフォームの7つ目のチップとして加えた推論専用プロセッサー。チップ名はLP30、ラック製品名がGroq 3 LPX - **設計**：1基あたりSRAM 500MB・SRAM帯域150TB/s。実行タイミングはコンパイラが決める。容量はRubin GPUのHBM4（288GB）の576分の1 - **GPUとの分担**：prefillはRubin GPU。decodeはLPXが丸ごと担う構成のほか、AttentionをGPU・FFN／MoEをLPXに分ける構成（Attention-FFN分離）と、投機的デコードのドラフト生成をLPXに置く構成がある - **性能値**：「35倍」はユーザーあたり400トークン/秒時のメガワットあたりスループットをGB200 NVL72と比べたNVIDIAの予測値。「3,400トークン/秒」はGemma 4 31Bでの1件のベンチマーク - **Groqとの関係**：2025年12月24日の非独占ライセンス契約。創業者のJonathan Ross氏らはNVIDIAへ移り、Groq社は独立企業としてGroqCloudを続けている。対価はNVIDIAの年次報告書で130億ドル＋40億ドル（報道の200億ドルではない） - **出荷**：2026年8月24日に量産入りを発表。最初の採用はNebius、Groq社も早期採用を予定。10月8日時点でクラウドの一般提供開始日は公表されていない ## Groq 3 LPU・LP30・LPXの関係と仕様 名前が3つ出てきますが、指しているものの単位が違います。Groq 3 LPU（Language Processing Unit）がプロセッサーの製品名で、チップの型番がLP30です。これを8基載せた1Uの液冷トレイを32台、計256基を1ラックに収めたシステムがGroq 3 LPXです。NVIDIAは2026年3月16日のGTC 2026で、Vera Rubinを「7つのチップ、5つのラックスケールシステム」と説明し直し、7つ目のチップとしてGroq 3 LPUを加えました。 GPUとは逆に、容量を捨てて帯域を取った設計です。NVIDIAの[技術ブログ](https://developer.nvidia.com/blog/inside-nvidia-groq-3-lpx-the-low-latency-inference-accelerator-for-the-nvidia-vera-rubin-platform/)と[製品ページ](https://www.nvidia.com/en-us/data-center/lpx/)に載っている数値を、チップ・トレイ・ラックの3段階で並べると次のとおりです。 | 項目 | LP30チップ1基 | LPXトレイ（8基） | LPXラック（256基） | | ----------- | ------------------- | ---------------------- | ------------ | | オンチップSRAM | 500MB | 4GB | 128GB | | SRAM帯域 | 150TB/s | 1.2PB/s | 40PB/s | | 推論演算性能（FP8） | 1.2PFLOPS（トレイ値から算出） | 9.6PFLOPS | 315PFLOPS | | スケールアップ帯域 | 2.5TB/s | 20TB/s | 640TB/s | | DRAM | なし | 最大256GB＋ホストCPU側最大128GB | DDR5 12TB | トレイの9.6PFLOPSを32倍すると307.2PFLOPSで、ラック表の315PFLOPSとは一致しません。NVIDIAは差の内訳を説明していないため、比較に使うときはどちらの値かを明記してください。製造はSamsung Foundryの4nmプロセスで、SamsungもGTC 2026に合わせた自社ブログで受託製造を明らかにしています。 ## NVIDIAとGroqの契約：非独占ライセンスと人材移籍 Groq社が2025年12月24日に出した発表は、「Groqの推論技術についてNVIDIAと非独占のライセンス契約を結んだ」という内容です。同時に、創業者のJonathan Ross氏（GoogleでTPUの開発に関わった人物）、社長のSunny Madra氏らがNVIDIAへ移りました。Groq社は独立企業として残り、発表時点ではCFOだったSimon Edwards氏がCEOに就くとされ、GroqCloudは中断なく運営を続けると明記しています。 「NVIDIAが200億ドルでGroqを買収」という見出しは、契約直後のCNBCの報道が出どころです。実際の対価は、NVIDIAが2026年1月期の年次報告書（[Form 10-KのGroqに関する注記](https://www.sec.gov/Archives/edgar/data/1045810/000104581026000021/R11.htm)）に書いています。クロージング時に130億ドル、1年以内に40億ドル（帰属利息込み）を支払う構成で、合計は約170億ドルです。同じ注記には「顧客契約、既存製品、持分は取得していない」とあり、会計上は人材と技術に対するのれん144億ドルと、開発済み技術の無形資産25億ドルとして計上されています。Groq社の株式取得ではなく、技術の非独占ライセンスと一部従業員の移籍を伴う取引です。非独占なので、Groq社は同じ技術を使い続けられます。 契約後のGroq社は、チップを売る会社からクラウド事業者へ軸足を移しています。2026年8月17日には3億5,000万ドルのシリーズAを発表し、企業価値は35億ドル、NVIDIAも出資に加わる予定としています。同じ発表で、13か所のデータセンターを運営し600万人の開発者が使っていること、NVIDIAのクラウドパートナー（NCP）としてNVIDIAの計算機を顧客に提供すること、電力容量を54MWから2027年に200MW超へ広げる計画を示しました。GroqCloudは自社のLPUで運営してきた推論クラウドで、Groq 3 LPXへの切り替え時期は公表されていません。 ## SRAMを主記憶にする設計とコンパイラ制御の実行 LPUがGPUと違うのは、メモリの置き場所と、実行タイミングを誰が決めるかの2点です。どちらも、1トークンずつ順番に生成するdecodeの遅延とばらつきを減らすための選択です。 ### 500MBのSRAMを一次記憶にする帯域優先の構成 LLMのdecodeでは、各ステップで必要な重みを参照します。小バッチではメモリ帯域が律速になりやすいものの、ボトルネックはバッチサイズ・コンテキスト長・モデル構造によって変わります。Rubin GPUはHBM4を288GB積み、帯域はCES 2026の公称値で22TB/sです。LP30はSRAMが500MBしかない代わりに、帯域が150TB/sあります。 容量と帯域の比で比べると、設計の違いがはっきりします。容量を公称帯域で割ると、Rubin GPUは288GB÷22TB/s＝約13ミリ秒、LP30は500MB÷150TB/s＝約3.3マイクロ秒です。これは理想条件での単純計算で、実測の読み出し時間やトークン生成時間ではありません。LP30は「少量のデータを極端に速く回す」ことに振り切ったチップで、大きなモデルは多数のチップに層ごとに分けて載せる前提になっています。NVIDIAの技術ブログも、重み・活性値・KV状態をコンパイラとランタイムがSRAMに配置し、ハードウェア管理のキャッシュには頼らないと説明しています。 ### コンパイラが通信と同期まで決める決定論的実行 GPUは実行時にハードウェアが命令の順番を決めます。LPUでは、計算・データ移動・チップ間の同期をコンパイラが事前にスケジュールします。演算・メモリアクセス・チップ間転送はすべて320バイトのベクトル単位で動き、行列演算（MXM）・ベクトル演算（VXM）・データ並べ替え（SXM）の専用モジュールに分かれています。 チップ間は1基あたり112Gbpsのリンク96本でつながり、双方向の合計I/O帯域は2.5TB/sです。ハードウェア側のプロトコルがクロックのずれを打ち消し、数百基を1つのシステムとして同期させます。データの到着時刻が予測できるので、小さいバッチでも最初のトークンまでの時間とトークンごとの遅延が安定する、というのがNVIDIAの説明です。この方式の原型は、Groq社が2020年に論文で発表したTensor Streaming Processorです。 ## Vera RubinでのGPUとLPXの分担 LPXはGPUの置き換えではありません。NVIDIAは2026年8月24日の技術ブログで、Vera Rubin NVL72と組み合わせる構成を3つ示しています。1つ目は通常のprefill-decode分離で、NVL72がprefillを済ませてターンごとにKVキャッシュを渡し、LPXがSRAM上の重みを使ってdecodeを丸ごと担当します。2つ目がAttention-FFN分離、3つ目が投機的デコードです。後の2つは、1つのdecodeをGPUとLPXで分け合う構成です。 ### Attention-FFN分離（AFD）：AttentionはGPU、FFN・MoEはLPX 入力全体を読んでKVキャッシュを作るprefillは、大量の並列演算と大容量メモリが要るので、Vera Rubin NVL72が担当します。decodeはさらに2つに割ります。蓄積したKVキャッシュ全体に対するAttentionは容量が要るのでGPU、MoEエキスパートのFFNなど遅延に効く部分はLPXです。トークンごとに中間の活性値をGPUとLPXの間で受け渡します。NVIDIAはこれをdecode phase disaggregation、またはattention-FFN disaggregation（AFD）と呼んでいます。 LPXがFFNを受け持つので、LPXのSRAMに載せるのは主にFFN・エキスパートの重みです。KVキャッシュはVera Rubin NVL72側が保持し、ラック間で送るのは全Attention層ごとの中間データだけです。[MoE（Mixture of Experts）](/tech/details/15810/)のようにエキスパートの重みが大きく、トークンごとに一部だけ読むモデルほど、この分担の効果が出やすい構造です。KVキャッシュの役割は[KVキャッシュの解説](/tech/details/13786/)を参照してください。 ### 投機的デコードのドラフト生成をLPXに置く構成 もう1つの使い方が投機的デコードです。小さいドラフトモデルが候補トークンを先に複数出し、大きいモデルがまとめて検証します。NVIDIAの構成例では、ドラフト生成をLPX、検証をRubin GPUが担います。ドラフトモデルは小さいのでSRAMに収まりやすく、LPXの容量の制約が問題になりにくい使い方です。 ### NVIDIA Dynamoによる振り分け GPUとLPUの間で処理を行き来させる制御は、推論サーバーソフトのNVIDIA Dynamoが担います。prefillをGPUワーカーへ送り、decode中はAttentionをGPU、FFN・MoEをLPUへ回して結果をGPUに戻す、というループを組みます。NVIDIAは用途の目安として、コーディングアシスタント・ツール呼び出しの多いエージェント・音声対話・リアルタイム翻訳をLPXに、バッチ処理や長コンテキストのスループット重視の処理をRubin GPUに残すよう勧めています。 ## 「35倍」「3,400トークン/秒」を読むときの前提条件 LPXの宣伝で使われる2つの数字は、どちらも条件付きの値です。条件を外して引用すると誤解を招きます。 | 数値 | 比較の相手 | 条件 | 性質 | | ----------- | ----------- | ----------------------------- | ---------------------- | | 最大35倍 | GB200 NVL72 | ユーザーあたり400トークン/秒時のMWあたりスループット | NVIDIAの予測値 | | 最大10倍 | GB200 NVL72 | MWあたりの収益機会 | NVIDIAの試算 | | 3,400トークン/秒 | 他社の公開API | Gemma 4 31B・10万トークンのコンテキスト | Artificial Analysisの計測 | 35倍の図でNVIDIAが想定しているのは、2兆パラメータのMoEモデルに40万トークンの入力を与える高単価の対話サービスです。GPU単体では応答速度を上げるほどラック全体の処理量が落ちますが、LPXを足すとこの落ち込みが小さくなる、という主張です。製品ページには「Projected performance subject to change」と明記されています。 3,400トークン/秒は、NVIDIAの発表では最も近い他の基盤の4倍とされています。[NVIDIAの技術ブログ](https://developer.nvidia.com/blog/how-nvidia-groq-3-lpx-unlocks-ultrafast-interactivity-at-long-context-on-nvidia-vera-rubin/)によると、Artificial Analysisの計測の中央値は入力10万トークンで3,431トークン/秒、1万トークンで3,382トークン/秒で、コンテキスト長による落ち込みはほぼありません。計測対象はNVIDIAが自社のデータセンターに立てたシステムです。StorageReviewは、NVIDIA側が8月21日に計測された公開前の専用エンドポイントで、比較相手は一般公開中のサーバーレスAPIだったと指摘しています。The Decoderは、Gemma 4 31Bを動かすのにLPX側は64基以上が要るとみられる一方、比較相手のCerebrasは1〜2基で動かしている点を挙げています。比較対象のチップ数や提供条件がそろっていないため、この結果からチップ単位の効率は判断できません。 ## SRAM容量から逆算する必要なLPU数と向かない用途 LPXを検討するとき最初に確かめるべきなのは、モデルの重みが何基のLPUに乗るかです。重みをFP8（1パラメータ1バイト）で全部SRAMに置くと仮定し、500MBで割って概算しました。全重みをSRAMに常駐させる場合は、活性値などの領域も必要です。AFDでは主にFFN・エキスパートの重みがLPX側の対象となるため、この表をそのまま実機の必要台数には使えません。 | モデル | 総パラメータ | FP8の重み | 必要LP30数 | LPXラック換算 | | ----------- | ------ | ------ | ------- | -------- | | Gemma 4 31B | 310億 | 約31GB | 約62基 | 約0.25ラック | | 70Bクラスの密モデル | 700億 | 約70GB | 約140基 | 約0.55ラック | | DeepSeek-V3 | 6,710億 | 約671GB | 約1,342基 | 約5.2ラック | | 2兆パラメータMoE | 2兆 | 約2TB | 約4,000基 | 約16ラック | 約62基という値は、全重みをFP8でSRAMに常駐させる仮定から求めた容量上の下限です。この概算では重みだけで約0.25ラック相当ですが、ベンチマークに使われた実際のチップ数やメモリ配置を示すものではありません。大規模モデルの収容には複数ラックやメモリ配置の検討が必要です。AFDはAttentionとKVキャッシュをGPU側に残す構成ですが、FFN・エキスパートの重みを収容する容量はLPX側で確保します。 次のような用途では、LPXを足しても費用に見合いにくいと判断します。 - **夜間バッチ・要約・埋め込み生成**：大バッチで処理できる場合はGPU単体を比較の基準とする。LPX追加による単価改善は、機器費・稼働率・電力費を含めて評価する - **学習・ファインチューニング**：LPUは推論専用。NVIDIAも学習はRubin GPUの役割としている - **Vera Rubin NVL72を持たない環境**：LPXはNVL72と組み合わせる前提で設計されており、既存のH100・B200クラスタに後付けする構成は示されていない - **人が読む速度で足りるチャット**：応答速度より単価が重要なら、クラウドの通常のAPIで十分 逆に、エージェントが数百回の推論とツール呼び出しを繰り返すコーディング支援のように、1ステップの遅延が積み上がって完了時間を決める処理では効果が出ます。導入判断では、目標のトークン/秒に加え、初回応答時間・同時実行数・コンテキスト長をそろえて比較してください。容量見積もりには、モデルの総パラメータ数だけでなく、LPXに配置する重みの量と精度を使います。 ## 出荷状況と今後のロードマップ（2026年10月時点） | 日付 | 出来事 | | ----------- | ---------------------------------------- | | 2025年12月24日 | GroqとNVIDIAが非独占ライセンス契約を発表 | | 2026年3月16日 | GTC 2026でGroq 3 LPU・LPXを発表。提供は2026年後半と予告 | | 2026年8月17日 | Groq社がシリーズA 3億5,000万ドルを発表（NVIDIAも参加予定） | | 2026年8月24日 | Hot Chipsで量産入りを発表。最初の採用はNebius | [量産入りの発表](https://nvidianews.nvidia.com/news/nvidia-groq-3-lpx-now-in-full-production-with-world-class-speed-for-agentic-ai)によると、最初の採用者はNebiusで、推論サービスNebius Token FactoryにGroq 3 LPXを導入します。Nebiusは自社ブログで、まず一部のモデルから対応し、開発者は既存のAPIのままモデルを選び替えるだけで使えると説明しています。Groq社もNebiusに続く早期採用者になる予定です。AWS・Google Cloud・Microsoft Azure・Oracle Cloud Infrastructureは、GTC 2026の発表でVera Rubin製品全体の提供パートナーとして名前が挙がっていますが、LPXの提供時期を個別に示したものではありません。 次の世代として、GTC 2026のセッションでは、Rubin Ultra世代向けにNVFP4の演算を初めて取り込むLP35、その次のFeynman世代向けにLP40が計画として示されました。一方、2025年9月に長コンテキストのprefill専用GPUとして発表され、2026年末の提供予定とされていたRubin CPXは、GTC 2026のロードマップに載りませんでした。NVIDIAは中止とは発表していませんが、現在示されている推論構成はprefillをRubin GPU、decodeの一部をLPXが担う形です。GoogleのTPUのように自社専用チップで推論を賄う流れについては[TPUの解説](/tech/details/10447/)、端末側の推論チップは[NPUの解説](/tech/details/16171/)で比べています。 ## よくある質問 ### LPUとGPUの違いは何ですか？ メモリと制御の方式が違います。GPUは大容量のHBM（Rubin GPUで288GB）を持ち、実行順序をハードウェアが動的に決めます。Groq 3 LPUは500MBのSRAMを主記憶にして150TB/sの帯域を確保し、実行タイミングをコンパイラが事前に決めます。GPUは学習と大バッチの推論、LPUは小バッチで遅延が重要なトークン生成に向きます。 ### NVIDIAはGroqを買収したのですか？ 株式を取得する買収ではありません。2025年12月24日に、Groqの推論技術について非独占のライセンス契約を結び、創業者のJonathan Ross氏らがNVIDIAへ移りました。Groq社は独立企業として残っています。対価はNVIDIAの年次報告書によると130億ドル＋1年以内の40億ドルで、報道で広まった200億ドルとは異なります。 ### Groq 3 LPXはいつから使えますか？ 2026年8月24日に量産入りが発表され、Nebiusが最初に自社の推論サービスへ導入すると表明しました。2026年10月8日時点で、一般提供の開始日・提供リージョン・トークン単価は公表されていません。 ### GroqCloudのAPIはGroq 3 LPUで動いていますか？ GroqCloudはGroq社が自社のLPUで運営してきたサービスです。NVIDIAの量産発表ではGroq社がGroq 3 LPXの早期採用者になる予定とされていますが、GroqCloudでいつから使えるかは示されていません。 ### Groq 3 LPUはCerebrasとどう違いますか？ Cerebrasはウェハー1枚を丸ごと1チップにして大量のSRAMを1基に集める方式で、Groq 3 LPUは500MBの小さいチップを数百基つないで1つのシステムとして動かす方式です。Cerebrasの技術と事業の現状は[セレブラスの解説](/tech/details/8534/)にまとめています。 ## 関連記事 - [NVIDIA Rubin（Vera Rubin）とは？7チップ構成・性能・出荷時期とBlackwellとの違い【2026年10月】](/tech/details/10506/) - [Groqとは？LPU推論APIをOpenAI互換で差し替える手順と400・429の回避](/tech/details/17535/) - [セレブラスとは？AI半導体企業Cerebras Systemsの技術・強み・2026年Nasdaq上場を解説](/tech/details/8534/) - [MoE（Mixture of Experts）とは？疎活性化とルーターの仕組み・VRAM要件と採用判断を実装者向けに解説](/tech/details/15810/) - [KVキャッシュとは？LLM推論を高速化する仕組みとメモリ削減・実装判断を実装者向けに解説【2026年版】](/tech/details/13786/) --- 出典: [Groq 3 LPU（LPX）とは？NVIDIAの推論チップの仕組み・GPUとの違い・出荷状況【2026年10月】]()（株式会社一創）