2026.08.05 AI

NVIDIA Jetsonとは？Orin・Thorの違いと選定基準・量産判断を実装視点で解説【2026年版】

NVIDIA Jetsonは、GPUとCPUを1枚に載せたモジュールと、それを差すキャリアボードで構成される組込み向けの推論ハードです。カタログには67 TOPSから2070 TFLOPSまで桁の違う数字が並びますが、この値だけで系統を選ぶと、実機を組んだ段階で処理が追いつきません。この記事では、Jetsonのハード構成と提供形態、Orin世代3系統とJetson AGX Thorの守備範囲、JetPackとTensorRTを使った実装工程、カメラ本数から必要スループットを逆算する手順、そしてPoCから量産へ移すときの判断基準までを実装の順序で並べます。数値は2026年8月時点でNVIDIAが公開している公称値に基づきます。

まとめ：Jetsonの系統選定はTOPSではなくメモリ帯域と供給期間で決まる

系統を決める入力は3つに絞れます。同時に処理する映像ストリームの本数、モデルが要求するメモリ量、そして筐体が許す電力枠。この3つが決まれば候補は自動的に1系統か2系統へ絞られ、TOPS値を見比べる作業はほとんど残りません。

公称TOPSを比較軸の中心に置かない理由は構造にあります。JetsonのGPUはCPUと主記憶を共有しており、演算器がいくらあっても帯域を超えてデータは届きません。Orin Nanoの102GB／sとAGX Orinの204.8GB／sという差は、TOPSの4倍差より実効スループットに効いてきます。

量産を見据えるなら供給期間から逆算します。Jetson Orin系のモジュールは当初計画の2030年第1四半期から2032年1月まで供給が延長されており、いま設計を起こしても製品寿命を数年分は確保できる状態です。Jetson AGX Thorは生成AIやロボット制御を現場で回すための別枠で、128GBのメモリを必要としない画像検査案件に持ち込むと費用が合いません。

見送る判断も先に置くべきです。推論が1日数回のバッチで、遅延要件が数秒あり、回線が安定しているなら、サーバへ集約したほうが運用は軽くなります。端末側とクラウド側のどちらへ推論を置くかという上位の判断はエッジAIとは？クラウドAIとの違い・仕組み・実装の判断基準で扱っているため、本記事はJetsonを選んだ後の設計に絞ります。

Jetsonの構成と提供形態｜SoMとキャリアボードで分かれる実装の前提

Jetsonは単体のボードコンピュータではなく、モジュールと基板を組み合わせる製品群です。まず何が製品に載り、何が開発時だけのものかを分けます。

Jetsonのハードウェア構成｜GPUとメモリ共有が決める推論の性格

Jetsonのモジュールは、Arm系CPUコア、NVIDIAアーキテクチャのGPU、映像のエンコード／デコード回路、そしてLPDDR5メモリを1枚のSoM（System on Module）へ集約したものです。デスクトップGPUと違い、GPU専用のVRAMを持ちません。CPUとGPUが同じ物理メモリを見る構成のため、推論のたびにホストとデバイス間でデータをコピーする工程が省ける代わりに、帯域は両者で取り合います。

Orin世代にはDLA（Deep Learning Accelerator）という固定機能の推論回路も載ります。AGX Orinは2基、Orin NXは1基を備え、Orin Nanoは搭載していません。畳み込み中心のモデルをDLAへ逃がし、GPUを前処理や別モデルへ空けるという分担が組めるかどうかは、系統を跨ぐ設計差になります。

推論ハードとしての性格は、この共有メモリ構造でほぼ決まります。演算器の数より、1推論あたりに読み出す重みのバイト数が効く。設計時に押さえる数字はそちらです。端末側の演算ユニット全般の考え方はNPUとは？CPU・GPUとの役割分担とTOPSの実効性能で整理しています。

開発者キットと量産モジュール｜PoCから製品化で変わる調達単位

Jetsonには、評価用の開発者キットと、製品へ組み込む量産モジュールという2つの調達形態があります。Jetson Orin Nano Super開発者キットは249ドル、Jetson AGX Thor開発者キットは3,499ドルで、いずれもキャリアボードと冷却機構が同梱された完成形です。

ここで起きやすい失敗が、開発者キットの構成をそのまま製品仕様として見積もることでした。開発者キットはmicroSDやM.2スロット、USBや映像出力端子を広く備えていますが、製品ではその大半を使いません。量産モジュールは基板に直付けするSoM単体で、電源設計・カメラのMIPI CSI-2配線・ストレージ・防塵防滴はキャリアボード側の責任範囲へ移ります。

調達単位が変わると価格の見え方も変わります。開発者キット1台の価格を台数分掛けた見積りは、量産段階では過大にも過小にもなる。PoCの段階で「この構成のまま製品化する」と決め打ちせず、キャリアボードの設計費と認証費を別枠で置いておくほうが後戻りは少なくなります。

Jetsonモジュール4系統の比較｜Orin NanoからThorまでの守備範囲

2026年8月時点で新規設計の候補になるのは、Orin世代の3系統とThor世代です。公称値を並べたうえで、どこで系統が切り替わるかを見ます。

Orin世代3系統の公称値比較｜TOPS・メモリ帯域・電力枠の差

NVIDIAが公開しているモジュール仕様を、選定に効く4項目へ絞って並べます。TOPS値はいずれもスパースINT8基準で、密行列前提の実測値ではありません。

項目 Orin Nano 8GB Orin NX 16GB AGX Orin 64GB
公称AI性能 67 TOPS 157 TOPS 275 TOPS
メモリ 8GB LPDDR5 16GB LPDDR5 64GB LPDDR5
メモリ帯域 102GB／s 102.4GB／s 204.8GB／s
電力枠 7W〜25W 10W〜40W 15W〜60W
DLA 非搭載 1基 2基

注目すべきはOrin NanoとOrin NXの関係です。公称TOPSは2.3倍ほど開きますが、メモリ帯域はほぼ同じ102GB／s台に揃っています。重みの読み出しが律速になる処理では、この2系統の差は数字ほど開きません。逆にAGX Orinは帯域が倍あり、モデルを複数常駐させる構成やメモリ量を要する案件で選ぶ理由が立ちます。

電力枠の下限も選定条件になります。Orin Nanoは7Wまで落とせるため、バッテリー駆動や小型筐体の案件で候補に残る。40W級を許せる装置なら、はじめからOrin NX 16GBを基準にしたほうが後の余裕が効きます。

Jetson AGX Thorの位置づけ｜128GB搭載が変える生成AI側の選択肢

Jetson AGX Thorは、Blackwell世代のGPUと128GBメモリを積んだ上位系統です。公称値は最大2070 FP4 TFLOPS、電力枠は40W〜130Wで、NVIDIAはAGX Orin比で7.5倍のAI演算性能と3.5倍の電力効率を示しています。モジュールはT5000とT4000の2種が案内されています。

この系統が効くのは、視覚言語モデルやロボット制御のように、数十GB級の重みを端末側へ常駐させたい要件です。128GBという容量は、サーバGPUを1枚持ち込むのに近い設計余地を現場に与えます。一方で130Wの電力枠と発熱は、既存の産業用筐体へそのまま収まる規模ではありません。

画像検査や人数カウントのような従来型のCNN推論にThorを持ち込む判断は取りません。処理はOrin NXで足り、費用と熱設計だけが増えます。サーバ側でLLM推論を回す構成と比較したい場合はTensorRT-LLMとは？NVIDIA GPUでのLLM推論高速化の仕組みと採用判断を参照してください。

JetPackとTensorRTの実装工程｜学習済みモデルを現場で動かす手順

ハードが決まったら、ソフト側は版の固定から入ります。Jetsonの実装で詰まる箇所は、モデルそのものより環境の組み合わせに集中します。

JetPackのバージョン選定｜Orin世代とThor世代で分かれるOS基盤

JetPackは、Linux for Tegra（L4T）とCUDA、cuDNN、TensorRT、映像処理ライブラリをまとめた開発キットです。バージョンの選択は、そのままOSとドライバの選択になります。JetPack 6.2ではOrin NanoとOrin NXにSuper Modeが加わり、公称TOPSが引き上げられました。現在カタログに載る67 TOPSや157 TOPSはこの動作モードを前提とした値です。

JetPack 7系はLinux Kernel 6.8とUbuntu 24.04 LTSを基盤とし、CUDA 13.0を含みます。2026年8月時点の公式ページでは7.2が最新版として案内され、OrinとThorの両プラットフォームを対象としています。世代を跨ぐ更新はOS入れ替えを伴うため、既存機の遠隔更新で完結する作業ではありません。

実務では、案件着手時にJetPackの版を1つ固定し、CIのビルド環境とサポート契約の期限をその版へ揃えます。開発機と実機で版が違うと、TensorRTのエンジンが読めずに原因究明へ半日が消える。ここは省略できない前段です。

ONNX経由のTensorRT変換｜INT8量子化とキャリブレーションの判断

推論の流れは、学習済みモデルをONNX形式へ書き出し、実機上でTensorRTのエンジンへ変換して実行する形が基本になります。ONNXの位置づけはONNXとは？モデル変換・推論の仕組みと使い方で解説しています。

TensorRTのエンジンは、GPUアーキテクチャとTensorRTの版に紐づいたバイナリです。開発機のRTXで作ったエンジンはJetson実機では読めません。変換は必ず実機か同一構成のコンテナで行い、生成物をキャッシュとして配布する運用にします。

精度の選択では、FP16をまず試し、それで枠に収まらない場合にINT8へ落とします。INT8化には数百枚規模のキャリブレーション用データが要り、実際の設置環境で撮った画像を使わないと精度が落ちます。判断基準は単純です。学習時の検証セットではなく現場データで評価し、誤検知率が要件を割るなら層単位でFP16へ戻す。載せるモデル側の選定は物体検出とは？仕組み・代表手法の比較から実装判断までを併せて確認してください。

消費電力と実効スループットの見積り｜電力モードと帯域が作る上限

Jetsonの実測値は、同じモジュールでも設定次第で倍近く動きます。見積りの前に測定条件を揃えます。

電力モードの切替と実測手順｜設定値で変わる推論スループットの上限

Jetsonには複数の電力モードがあり、nvpmodelコマンドで切り替えます。出荷時の既定値は最大性能ではないため、そのまま測ったベンチマークはカタログ値と一致しません。加えてjetson系のクロック固定コマンドを使うと、動的な周波数制御を止めた状態で測れます。

測定はtegrastatsでGPU使用率・メモリ帯域・温度を並行して記録しながら行います。ここで見るのはfpsだけではありません。GPU使用率が90%台に張り付いていれば演算が律速、50%前後で頭打ちなら帯域か前処理が律速という切り分けができます。

温度も測定条件に含めます。ファンレス筐体では連続稼働で熱制限がかかり、クロックが落ちて実効fpsが下がる。1時間の連続測定で下がり幅を確認してから、必要な冷却方式を決めます。

カメラ本数からの逆算手順｜1ストリームあたりの推論コスト試算

映像案件の見積りは、カメラ本数と処理間隔から必要スループットを求めるところから始めます。1080p30のカメラ4本を、1本あたり毎秒5回の推論で処理するなら、必要な推論回数は毎秒20回です。ここに前処理と後処理の時間を加えます。

次の3つを実機で測り、積み上げます。

  • 映像デコード：ハードウェアデコーダで処理し、CPUへ落とさない構成にする
  • 前処理：リサイズと正規化をGPU側で行い、コピー回数を減らす
  • 推論本体：TensorRTのエンジンで1フレームあたりの実測ミリ秒を取る

4本を1台で捌けない場合の選択肢は2つです。モデルの入力解像度を下げるか、モジュールを上位系統へ替えるか。入力を640から416へ落とせば推論時間はおおむね半分近くまで下がりますが、小さい対象の検出率も同時に落ちます。ここは机上で決めず、現場データで検出率を測ってから選びます。

PoCから量産への判断基準｜キャリアボード設計と供給期間の確認

PoCが通っても、そのまま量産へ進めない案件があります。止まる要因はソフトではなく調達と熱に集中します。

量産移行前に確認する3点｜供給期間・熱設計・キャリアボード調達

1つ目が供給期間です。Jetson Orin系は2032年1月まで供給が案内されており、5年以上の製品寿命を持つ装置でも設計の前提が置けます。旧世代のXavier系やTX2系を新規設計へ選ぶ理由は、既存資産との互換以外にほぼ残りません。

2つ目が熱設計です。電力枠の上限で連続稼働させるなら、ヒートシンクと筐体の放熱経路を先に決めます。屋外設置や粉塵環境ではファンが使えず、実効性能が落ちた前提で系統を1段上げる判断が要ります。

3つ目がキャリアボードです。自社設計するか、サードパーティの汎用ボードを使うかで、初期費用と納期が大きく変わります。年産数百台までなら汎用ボードで組み、数千台規模なら専用設計へ切り替えるのが費用の分岐点になりやすい水準です。

Jetsonを採用しない場面｜サーバ集約とNPU搭載SoCが有利な条件

採用しない条件は明確に線を引けます。次の3つに当てはまるなら、Jetsonを選ぶ判断は取りません。

推論が1日数回のバッチで済み、遅延要件が数秒ある案件。この条件ではサーバGPUへ集約したほうが、台数分の運用と更新の手間を負わずに済みます。設置台数が数台にとどまり、既にPCが置かれている現場も同様です。

もうひとつが、既存機器のSoCへ推論を載せられる案件です。搭載済みのNPUで要件を満たせるなら、ハードを追加せず済みます。逆にJetsonが優位に立つのは、映像を複数本まとめて低遅延で処理し、データを外へ出せず、数百台規模で同じ構成を配る案件です。装置全体の構成から考えたい場合はエッジコンピューティングとは？仕組み・クラウドとの違いから導入判断までが前提の整理に使えます。

受託開発でのJetson案件｜PoC設計から量産設計までの分担範囲

Jetson案件は、モデル開発・実機実装・キャリアボード設計・保守運用と担当が分かれます。社内にGPU実装の経験がない場合、PoCまでは進んでも、TensorRTの版固定や熱設計の詰めで止まりやすい工程です。

一創ではAI/IoTソリューション開発として、現場要件からのモジュール選定、推論モデルの実装と量子化、実機での実測とチューニングまでを引き受けています。既存装置への組み込みや、PoCだけを先に切り出す進め方にも対応します。

相談の際に用意しておくと早いのは3点です。カメラの本数と解像度、許容できる遅延と設置台数、そして筐体の電力枠と設置環境。この3つが揃っていれば、初回の打ち合わせで候補系統まで絞り込めます。

よくある質問

Jetsonの選定と実装でよく挙がる質問をまとめました。

Jetson NanoとJetson Orin Nanoは何が違いますか？

世代が異なる別製品です。Jetson NanoはMaxwell世代のGPUを積んだ旧世代モジュールで、Jetson Orin NanoはAmpere世代のGPUと最大67 TOPS（スパースINT8）の公称性能を持ちます。メモリ帯域も102GB／sまで引き上げられており、扱えるモデル規模が違います。新規設計でJetson Nanoを選ぶ理由は、既存資産との互換以外にはほぼ残っていません。供給期間の面でもOrin系が2032年1月まで案内されている点で有利です。

Jetsonの開発者キットをそのまま製品に組み込めますか？

評価目的なら問題ありませんが、量産製品への組み込みは前提が変わります。開発者キットはmicroSDやM.2、USBなど評価用の入出力を広く備えた構成で、製品では使わない部分が多く残ります。量産では基板へ直付けするSoM単体を調達し、電源・カメラ配線・ストレージ・防塵防滴をキャリアボード側で設計する形が基本です。認証取得や熱設計もキャリアボードの範囲になるため、その費用を別枠で見積もっておきます。

JetsonでLLMを動かすことはできますか？

動きますが、モジュール系統で扱える規模が変わります。Orin Nano 8GBやOrin NX 16GBでは、4ビット量子化した数Bパラメータ級までが実用範囲です。共有メモリの帯域が102GB／s台のため、1トークンごとに重みを読み直す生成処理では速度が頭打ちになりやすい構造です。128GBメモリと2070 FP4 TFLOPSを持つJetson AGX Thorなら、より大きなモデルを端末側へ常駐させる設計が取れます。応答速度が要件なら、サーバ側での推論と比較したうえで決めます。

JetsonとRaspberry Piはどのように使い分けますか？

推論の負荷で分かれます。センサー値の収集や単純な判定、数秒に1回の軽い画像処理であればRaspberry Pi級のSBCで足ります。毎秒数十回の推論や、複数本のカメラ映像を同時に処理する要件になると、GPUとハードウェアデコーダを持つJetsonの領分です。判断の目安は、処理したい映像の本数と、1本あたりの推論頻度を掛けた値をまず出すこと。この値が毎秒10回を超えるあたりからJetson側の候補が現実的になります。

Jetson Orinはいつまで購入できますか？

NVIDIAはJetson Orin系モジュールの供給を、当初計画の2030年第1四半期から2032年1月まで延長すると案内しています。対象はAGX Orin 64GB／32GB、Orin NX 16GB／8GB、Orin Nano 8GB／4GBです。産業装置のように5年以上の製品寿命を想定する案件でも、部材切り替えを織り込まずに設計できる期間が確保されています。ただし供給計画は変更されうるため、量産設計に入る前に販売代理店へ最新の案内を確認しておきます。

関連記事

資料請求

RELATED POSTS 関連記事

一覧へ戻る