--- title: "AWS InferentiaとTrainiumの違い｜Inf2とTrn2の使い分けと推論の始め方" url: "https://www.issoh.co.jp/tech/details/4647/" published: 2024-12-25 updated: 2026-10-13 categories: ["AWS"] publisher: "株式会社一創" --- # AWS InferentiaとTrainiumの違い｜Inf2とTrn2の使い分けと推論の始め方 AWS Inferentia（インファレンシア）は、Amazonが機械学習の推論処理に絞って設計したAIアクセラレータです。名称は推論を意味する「inference」に由来し、学習向けのAWS Trainiumと対になる位置づけで提供されてきました。現行世代はInferentia2で、Amazon EC2 Inf2インスタンスとして使います。一方のTrainiumは、Trainium2以降で推論も担うチップへ役割を広げ、2つの境目は以前ほど明確ではなくなりました。本記事では、InferentiaとTrainiumの仕様と設計の違い、Inf2とTrn2の使い分け、提供リージョンと料金をCLIで確かめる手順、Inf2で推論モデルをコンパイルするコードまでを、AWS公式とNeuronドキュメントの記述を根拠に整理します（2026年10月時点）。 ## まとめ：InferentiaとTrainiumの違いと2026年10月時点の使い分け 先に要点を整理します。根拠と手順は各章で示します。 - Inferentiaは推論専用のアクセラレータ。現行世代はInferentia2で、Amazon EC2 Inf2インスタンスとして提供されている。 - Trainiumは学習向けとして登場したが、Trainium2以降は推論も担う。AWSのTrainium製品ページは「学習と推論」の両用チップとして紹介している。 - 学習済みモデルの推論だけを安く回すならInf2、学習から推論までを同じ基盤で回すならTrn2が第一候補。 - Inferentia3の発表は2026年10月時点で無い。既存のInf2は引き続き利用でき、最新のNeuron SDK 2.32.0もInf2を対象に含む。 - 開発環境はTrainium・Inferentia共通のAWS Neuron SDK。PyTorchモデルを固定形状でコンパイルしてNeuronCore上で実行する。 - 提供リージョンと時間単価はインスタンスごとに違う。採用前にAWS CLIで東京リージョンの提供状況と単価を取得しておく。 以降で、Inferentiaの中身、Trainiumとの設計の違い、用途別の選定基準、チップ統合の流れ、Inf2で推論を動かす手順の順に見ていきます。 ## AWS Inferentiaの仕組みとInf1・Inf2の世代別スペック比較 Inferentiaは、学習済みモデルを本番環境で実行する「推論」に用途を絞り、コストと消費電力を抑えたチップです。GPUほどの汎用性は持たない代わりに、推論の単価とレイテンシで有利になるよう設計されています。 ### 推論専用に設計したNeuronCoreとInferentiaが狙う推論単価 Inferentiaの中核は、行列演算を担うNeuronCoreです。読み方は「インファレンシア」で、推論を指す英語のinferenceが語源にあたります。狙いは、GPU上で推論を動かす場合と比べて、1推論あたりのコストと消費電力を下げることです。[AWS Inferentiaの公式ページ](https://aws.amazon.com/ai/machine-learning/inferentia/)では、初代Inferentiaを積むInf1インスタンスについて、同等のEC2インスタンス比でスループット最大2.3倍・推論あたりコスト最大70%減とうたっています。Inferentia2を積むInf2は、同等のEC2インスタンス比で価格性能最大40%向上・電力効率最大50%向上という公称値です。 効果が出るのは、画像認識・自然言語処理・レコメンデーションのように、学習済みモデルを大量のリクエストに対して繰り返し実行する場面です。ただし数値はいずれも公称値で、GPUに対して常に高速・安価というわけではありません。優位はモデルの種類とバッチ構成に左右されるため、実データでの試算が前提になります。 ### Inferentia1とInferentia2の比較：メモリ4倍とレイテンシ10分の1 初代Inferentia（Inf1）は2019年、Inferentia2（Inf2）は2023年に提供が始まりました。公式ページの記載では、Inferentia2は初代比でスループット最大4倍・レイテンシ最大10分の1、総メモリ4倍・メモリ帯域10倍です。対応データ型もFP16・BF16・INT8に加え、FP32・TF32・設定可能なFP8（cFP8）まで広がりました。 | 項目 | Inferentia（初代） | Inferentia2 | | -------------- | --------------- | ---------------- | | 提供開始 | 2019年 | 2023年 | | 対応インスタンス | Amazon EC2 Inf1 | Amazon EC2 Inf2 | | NeuronCore | 第1世代を4基 | NeuronCore-v2を2基 | | チップあたりメモリ | 8GB DDR4 | 32GB HBM | | スループット | 基準 | 初代比 最大4倍 | | レイテンシ | 基準 | 初代比 最大10分の1 | | 1インスタンスの最大チップ数 | 16 | 12 | チップ単体の数値は[NeuronドキュメントのInferentia2アーキテクチャ](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/about-neuron/arch/neuron-hardware/inferentia2.html)に載っています。HBMは32GiB・帯域820GiB毎秒、演算性能はFP16/BF16/cFP8/TF32で190 TFLOPS、INT8で380 TOPSです。チップ間はNeuronLink-v2でつながり、複数チップにモデルを分割した推論で使われます。 ### Inf2インスタンス4サイズの構成と推論に向くワークロードの実例 Inf2は4サイズで提供されています。[Amazon EC2 Inf2の公式ページ](https://aws.amazon.com/ec2/instance-types/inf2/)に掲載された構成は次のとおりです。 | インスタンス | Inferentia2チップ | アクセラレータメモリ | vCPU | メモリ | ネットワーク | | ------------- | -------------- | ---------- | ---- | ------ | -------- | | inf2.xlarge | 1 | 32GB | 4 | 16GiB | 最大15Gbps | | inf2.8xlarge | 1 | 32GB | 32 | 128GiB | 最大25Gbps | | inf2.24xlarge | 6 | 192GB | 96 | 384GiB | 50Gbps | | inf2.48xlarge | 12 | 384GB | 192 | 768GiB | 100Gbps | inf2.xlargeとinf2.8xlargeはチップ1個で、違いはCPUとメモリの量です。前処理やトークナイズをCPU側で重く回すなら8xlarge、モデル本体の推論だけなら1xlargeで足ります。数十GBを超える重みを持つモデルは24xlargeか48xlargeでチップをまたいで載せます。最上位の48xlargeは最大2.3ペタフロップス・合計9.8TB毎秒のメモリ帯域・NeuronLink 192GB毎秒という構成です。 向くのは、リアルタイム性とコストの両立が求められる推論です。チャットや検索での自然言語処理、画像・動画の分類、レコメンデーションのオンライン推論など、同じモデルを高頻度で呼び出す処理が該当します。逆に、大規模モデルを一から学習する工程はInferentiaの守備範囲外です。 ## TrainiumとInferentiaの違い：学習と推論で分かれた設計と比較表 TrainiumとInferentiaは、どちらもAWS傘下のAnnapurna Labsが設計したAIチップです。違いは何を速く・安くするかにあります。Trainiumはモデルを作る「学習」、Inferentiaは作ったモデルを動かす「推論」に向けて設計されました。Trainiumの世代構成・料金・NVIDIA GPUとの比較は[AWS Trainiumとは？Trainium3までの世代別性能・料金・Neuron SDK対応と採用判断](/tech/details/10448/)にまとめています。ここでは推論の視点から違いだけを押さえます。 ### 学習向けTrainiumと推論向けInferentiaの役割分担と設計差 Trainiumは、数十億〜数千億パラメータのモデルを多数のチップで分散学習するための高スループット設計です。勾配の集約に使うチップ間通信の帯域を厚くし、長時間の大規模計算を効率よく回します。対してInferentiaは、学習済みモデルを低レイテンシ・低コストで実行する方向へ寄せた設計です。AIの開発工程に当てはめると、Trainiumが開発フェーズ、Inferentiaが運用フェーズを担う分担になります。 どちらもGPUとは別系統のチップで、CUDAではなくNeuron SDKで扱います。GoogleのTPUも同じく自社クラウド専用のAIチップですが、AWSとの違いは、学習と推論の両方を1系統で担ってきた点です。TPUの世代と料金は[TPUとは？GPU・CPUとの違い、世代別の性能と料金、TorchTPUでのPyTorch対応](/tech/details/10447/)で比べられます。 ### 性能・コスト・レイテンシで比べるTrainiumとInferentiaの比較表 | 観点 | AWS Trainium | AWS Inferentia | | --------- | ---------------------- | -------------------- | | 設計の対象 | モデル学習（Trainium2以降は推論も） | モデル推論 | | 主なインスタンス | Trn1 ／ Trn2 ／ Trn3 | Inf1 ／ Inf2 | | 現行の最新世代 | Trainium3（2025年12月GA） | Inferentia2（2023年） | | 重視する指標 | 学習スループット・チップ間帯域 | 推論の単価・低レイテンシ | | チップあたりメモリ | Trainium3は144GB HBM3e | Inferentia2は32GB HBM | | 開発環境 | AWS Neuron SDK | AWS Neuron SDK | 見落としやすいのは、Trainium2以降が推論にも使える点です。かつては「学習はTrainium、推論はInferentia」ときれいに分かれていましたが、[AWS Trainiumの公式ページ](https://aws.amazon.com/ai/machine-learning/trainium/)は現在、Trainiumを学習と推論の両方に向けたチップとして紹介しています。選定の前提はここで変わりました。 ## Inf2とTrn2の使い分け：推論単体か学習込みかで決める選定基準 チップ選定は、扱うワークロードが学習中心か推論中心か、そして基盤を1つにまとめたいかで決まります。判断を言い切る形で整理します。 ### 推論単体ならInf2、学習と推論を同一基盤に載せるならTrn2 すでに学習済みモデルがあり、推論の単価とレイテンシだけを詰めたいなら、Inf2が第一候補です。チップ1個のinf2.xlargeから始められるため、小さく試して台数で伸ばす構成を組みやすい点も利点になります。 一方、学習から推論までを1つのチップ基盤で完結させたい場合や、数十GB以上の重みを持つLLMを推論したい場合は、Trainium2を積むTrn2を選ぶ方が移行コストを抑えられます。[Amazon EC2 Trn2の公式ページ](https://aws.amazon.com/ec2/instance-types/trn2/)は、Trn2インスタンスとUltraServerを学習と推論の両方の用途で案内しています。分岐点は「推論専用の単価」を取るか「学習と推論の基盤統一」を取るかです。 ### Trainiumで学習しInf2で配信する併用パイプラインの構成例 大規模なプロジェクトでは、Trainiumで学習したモデルをInferentiaで推論配信する併用構成が定番でした。たとえば自然言語処理モデルをTrn1で学習し、本番の推論はInf2で単価を抑えて提供する分担です。両チップがNeuron SDKを共有しているため、学習側で保存した重みを推論側で再コンパイルすれば動きます。ただしチップの世代が違えばコンパイル結果（NEFF）は共通ではないので、配信側のインスタンスで改めてコンパイルする工程を組み込んでおきます。 新規設計では、後述の流れを踏まえ、Trn2で学習と推論を統一する構成も現実的な選択肢になります。SageMakerでモデルの配置と切り替えを管理するなら、[Amazon SageMaker JumpStartの使い方｜SDK v3移行とデプロイ費用](/tech/details/2792/)の手順と組み合わせると、学習からデプロイまでの管理を一元化できます。 ### GPU・Graviton・他社推論チップと比べたときの選定の分かれ目 Inferentiaの比較相手はTrainiumだけではありません。CUDA向けに書かれたコードや最新モデルをすぐ動かしたいならNVIDIA GPUが早道で、GPU側で推論を詰める方法は[TensorRT-LLMとは？NVIDIA GPUでのLLM推論高速化の仕組みと採用判断を解説](/tech/details/16075/)で扱っています。小さなモデルや埋め込み生成なら、アクセラレータを使わずArm CPUで回す構成も選択肢の1つです。AWSのCPU側の動きは[AWS Graviton5とは？Metaの数千万コア契約とAI推論でCPUが選ばれる理由](/tech/details/11928/)が参考になります。 推論専用チップという点では、Groqなど他社も同じ領域を狙っています。比較の軸は、AWS上で完結できるか（Inferentia）、特定ベンダーのクラウドやAPIに乗るか（他社チップ）です。他社の推論チップの仕組みは[Groq 3 LPU（LPX）とは？NVIDIAの推論チップの仕組み・GPUとの違い・出荷状況](/tech/details/11446/)、端末側のAIチップとの役割分担は[NPUとは？CPU・GPUとの役割分担とTOPSの実効性能・採用判断](/tech/details/16171/)で整理しています。 ## Inferentiaの現行世代とTrainium2・Trainium3が推論を担う流れ Inferentiaを選ぶうえで、定義や料金と同じくらい選定を左右するのが、AWSのチップ戦略の重心がTrainiumへ移っている点です。 ### Inferentia3が出ていない現状と公式情報で確認できる範囲 2026年10月時点で、AWSはInferentia3を発表していません。Inferentiaの現行世代は2023年のInferentia2のままです。その間にTrainiumはTrainium2・Trainium3と2世代進み、Trainium製品ページでは学習と推論の両方を担うチップとして扱われています。「Inferentiaの開発をTrainiumへ集約した」という趣旨の報道も出ていますが、AWSがInferentiaの提供終了を公式に発表した事実は確認できません。 確認できる事実は2つです。1つはInf2が現行のEC2インスタンスとして提供されていること。もう1つは、[Neuron SDKのリリースノート](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/release-notes/index.html)で最新の2.32.0（2026年8月17日公開）がInf1・Inf2・Trn1・Trn2・Trn3を対象に含んでいることです。既存のInf2環境がすぐに使えなくなる状況にはありません。 ### 推論も担うTrainium2・Trainium3のGA時期とメモリ容量 統合の受け皿がTrainium2以降です。Trainium2を積むTrn2インスタンスは2024年12月に一般提供が始まり、推論ワークロードにも対応します。Trainium3は3nmプロセスで製造され、Trn3 UltraServerが2025年12月に一般提供となりました。[NeuronドキュメントのTrainium3アーキテクチャ](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/about-neuron/arch/neuron-hardware/trainium3.html)と公式ページによれば、チップあたりのメモリは144GBのHBM3e、帯域は4.9TB毎秒で、Inferentia2の32GBの4倍超です。 大きなLLMの推論ではメモリ容量が台数を決めます。Inferentia2で12チップに分割して載せるモデルが、Trainium3なら少ないチップ数に収まる場合があり、チップ間通信の待ちも減ります。Neuron SDKが両チップで共通のため、Inferentia向けに書いた推論コードもTrainium系へ移しやすい設計です。 ## Inf2で推論を動かす手順：提供リージョン確認からNeuronでのコンパイルまで ここからは、Inf2で推論を動かすまでの作業を順に示します。コマンドはAWS CLI v2、コードはPyTorchとNeuron SDKのtorch-neuronxを前提にしています。 ### 東京リージョンでInf2・Trn2が使えるかをAWS CLIで確認する手順 Inf2やTrn2はリージョン・アベイラビリティゾーンごとに提供状況が違います。採用を決める前に、[describe-instance-type-offerings](https://docs.aws.amazon.com/cli/latest/reference/ec2/describe-instance-type-offerings.html)で使いたいリージョンの提供AZを確認します。 ``` aws ec2 describe-instance-type-offerings \ --region ap-northeast-1 \ --location-type availability-zone \ --filters Name=instance-type,Values=inf2.xlarge,inf2.48xlarge,trn2.48xlarge \ --query "InstanceTypeOfferings[].[InstanceType,Location]" \ --output table ``` 表に出てこないインスタンスタイプは、そのリージョンでは提供されていません。東京で出てこなければ、近い候補として大阪（ap-northeast-3）や米国リージョンへ`--region`を変えて同じコマンドを流します。AZ単位で偏りがあるため、サブネットを切るAZもこの結果に合わせます。 ### Inf2とTrn2の時間単価をPrice List APIで取得して比べる方法 料金は[EC2オンデマンド料金のページ](https://aws.amazon.com/ec2/pricing/on-demand/)で見られますが、リージョンとサイズを変えて何度も比べるならCLIで取る方が早く済みます。Price List APIのエンドポイントはus-east-1を指定し、対象リージョンは`regionCode`で絞ります。 ``` aws pricing get-products \ --region us-east-1 \ --service-code AmazonEC2 \ --filters \ "Type=TERM_MATCH,Field=instanceType,Value=inf2.xlarge" \ "Type=TERM_MATCH,Field=regionCode,Value=ap-northeast-1" \ "Type=TERM_MATCH,Field=operatingSystem,Value=Linux" \ "Type=TERM_MATCH,Field=tenancy,Value=Shared" \ "Type=TERM_MATCH,Field=preInstalledSw,Value=NA" \ "Type=TERM_MATCH,Field=capacitystatus,Value=Used" \ --query "PriceList[0]" --output text ``` 返ってくるJSON文字列の`terms.OnDemand`配下にある`pricePerUnit.USD`が1時間あたりの単価です。`instanceType`をtrn2.48xlargeなどに替えて同じ条件で取れば、同一リージョンでの比較表を作れます。Trn2は大型サイズ中心でCapacity Blocksでの調達が主になるため、オンデマンド単価が返らない場合はTrainium解説記事の料金表とあわせて確認してください。比較はチップ単価ではなく、自社モデルを1時間に何リクエスト処理できるかで割った「1リクエストあたり単価」で行います。 ### torch\_neuronx.traceで推論モデルをコンパイルし実行するコード Inf2で使うDLAMIやpipリポジトリの設定、版の固定方法は[AWS Neuron SDKとは？最新バージョン2.32の変更点・インストール手順と版の選び方](/tech/details/10521/)に手順をまとめています。インスタンス上では、まず`neuron-ls`でNeuronデバイスが見えていることを確かめます。 ``` neuron-ls python -m pip config set global.extra-index-url https://pip.repos.neuron.amazonaws.com python -m pip install torch-neuronx neuronx-cc transformers ``` モデルのコンパイルには[torch\_neuronx.traceのAPI](https://awsdocs-neuron.readthedocs-hosted.com/en/latest/frameworks/torch/torch-neuronx/api-reference-guide/inference/api-torch-neuronx-trace.html)を使います。例となる入力でモデルを1回実行して演算を記録し、NeuronCore向けにコンパイルした結果をTorchScriptとして保存する仕組みです。 ``` import torch import torch_neuronx from transformers import AutoTokenizer, AutoModelForSequenceClassification name = "distilbert-base-uncased-finetuned-sst-2-english" tokenizer = AutoTokenizer.from_pretrained(name) model = AutoModelForSequenceClassification.from_pretrained(name, torchscript=True).eval() # Neuronは入力形状を固定してコンパイルするため、max_lengthまでパディングする enc = tokenizer("Inferentia2 runs this model.", max_length=128, padding="max_length", truncation=True, return_tensors="pt") example = (enc["input_ids"], enc["attention_mask"]) neuron_model = torch_neuronx.trace(model, example) torch.jit.save(neuron_model, "model_neuron.pt") loaded = torch.jit.load("model_neuron.pt") logits = loaded(*example)[0] print(logits.argmax(dim=-1)) ``` このコードは公式trace APIの記法に沿った最小構成で、本稿の執筆環境ではInf2実機での実行までは行っていません。押さえたい点は、入力形状が固定されることです。コンパイル時と異なる長さの入力を渡すと動かないため、実運用では系列長を128・256・512のように数段階に分けて別々にコンパイルし、入力長に応じて振り分けます。LLMのテキスト生成は、traceではなくNeuron SDKのNxD Inferenceや、ベータ提供のvLLM Neuronを使う構成が案内されています。 ## Inferentiaを選ぶ条件と見送る条件：既存Inf2継続と新規設計の判断 ここまでの内容を、採用条件と見送り場面に分けて言い切ります。 ### 推論基盤にInf2を採用してよい3条件と導入を見送るべき3つの場面 Inf2を採用してよいのは、次の3条件がそろう場合です。1つ目は、モデルがすでに学習済みで、推論の単価を下げることが目的であること。2つ目は、モデルの重みがInf2の最大384GBに収まり、入力形状を数段階に固定できること。3つ目は、使いたいリージョンでInf2が提供されていることです。画像分類やテキスト分類、埋め込み生成、レコメンドのスコアリングはこの条件に当てはまりやすい処理です。 見送るのは次の場面です。CUDA専用のライブラリやカスタムカーネルに依存していて、Neuron SDKへの移植コストが読めない場合。最新のモデルを公開当日から動かす必要があり、Neuron側の対応を待てない場合。そして、学習まで含めた基盤を数年単位で新設する場合です。最後のケースは、推論も担うTrainium系を評価対象に入れておく方が後の移行で困りません。 ### 既存のInf2環境を使い続けるか、Trn2へ移すかの費用と運用の判断軸 既存のInf2環境は、そのまま使い続けて問題ありません。Neuron SDKの最新版がInf2を対象に含んでいる以上、移行を急ぐ理由は乏しいと言えます。移行を検討するのは、扱うモデルが大きくなりチップ数が増え続けている場合や、学習基盤と推論基盤を統合して運用の手間を減らしたい場合です。そのときは、同じモデルをTrn2でコンパイルし、上で取得した単価と実測スループットから1リクエストあたり単価を比べてから決めます。 AWS上での推論基盤の設計や、Inf2・Trn2・GPUインスタンスの比較検証を自社で進める余力がない場合は、[AWS・Google Cloud・Azureのインフラ構築支援](https://www.issoh.co.jp/service/system/aws/)で、インスタンス選定から構築・運用設計までをまとめてご相談いただけます。 ## AWS InferentiaとTrainiumについてよくある質問 InferentiaとTrainiumについて、検索でよく調べられている疑問に答えます。 ### AWS Inferentiaの読み方は何ですか？ 「インファレンシア」と読みます。推論を意味する英語のinferenceが語源で、学習済みモデルを実行する推論処理に向けたチップであることを表しています。対になるTrainium（トレイニアム）は、学習を意味するtrainingに由来する名称です。EC2のインスタンス名では、InferentiaがInf1・Inf2、TrainiumがTrn1・Trn2・Trn3という略称で表記されます。 ### Inferentia3は登場しますか？ 2026年10月時点で、AWSはInferentia3を発表していません。Inferentiaの最新世代はInferentia2（Inf2インスタンス）です。AWSはTrainium2以降を学習と推論の両用チップとして位置づけており、推論向けの新しいチップはTrainium系で提供される流れにあります。一方で、Inferentiaの提供終了も公式には発表されておらず、Neuron SDK 2.32.0もInf2を対象に含んでいます。 ### InferentiaとTrainiumはどちらを選ぶべきですか？ 学習済みモデルの推論だけを低コスト・低レイテンシで回すならInf2、学習と推論を同じ基盤で完結させたい場合や大きなLLMを推論したい場合はTrn2が向きます。判断の分かれ目は、推論専用の単価を取るか、基盤の統一を取るかです。最終的には、提供リージョンと時間単価をCLIで取得し、自社モデルの1リクエストあたり単価で比べて決めてください。 ### Inferentiaは学習にも使えますか？ Inferentiaは推論向けに設計されており、モデルの学習には向きません。ファインチューニングを含む学習はTrainiumかGPUインスタンスで行い、出来上がったモデルをInf2用にコンパイルして配信するのが基本の分担です。学習から推論まで同じチップで回したい場合は、推論にも対応するTrainium2以降で統一する構成を検討します。 ### InferentiaはGPUよりどれくらい安いですか？ 公式の公称値では、Inf1が同等のEC2インスタンス比で推論あたりコスト最大70%減、Inf2が価格性能最大40%向上とされています。ただし常にGPUより安く速いわけではなく、モデルの種類・バッチサイズ・入力長・レイテンシ要件で差は大きく変わります。Neuron SDKへの移植工数も費用に含まれるため、実ワークロードで計測した1リクエストあたり単価で比べるのが確実です。 ## 関連記事 - [AWS Trainiumとは？Trainium3までの世代別性能・料金・Neuron SDK対応と採用判断](/tech/details/10448/)：学習側チップの世代・料金・NVIDIA比較 - [AWS Neuron SDKとは？最新バージョン2.32の変更点・インストール手順と版の選び方](/tech/details/10521/)：Inf2・Trn2共通の開発環境の導入手順 - [Amazon SageMaker JumpStartの使い方｜SDK v3移行とデプロイ費用](/tech/details/2792/)：学習からデプロイまでをマネージドで回す方法 - [AWS Graviton5とは？Metaの数千万コア契約とAI推論でCPUが選ばれる理由](/tech/details/11928/)：アクセラレータを使わないCPU推論の選択肢 - [Amazon Novaの性能と料金：Nova 2世代のモデル比較と選び方](/tech/details/9124/)：自前のチップ選定をせずAPIで推論する選択肢 --- 出典: [AWS InferentiaとTrainiumの違い｜Inf2とTrn2の使い分けと推論の始め方]()（株式会社一創）