ラズベリーパイ（以下ラズパイ）でAIを動かす方法として、この記事では代表的な3通りを扱います。Raspberry Pi 5にHailo製NPUを載せたAI HAT+（13/26 TOPS）かAI HAT+ 2（40 TOPS・8GB）を足す、推論をセンサー内で済ませるAI Cameraを使う、そして追加部品なしにCPUで小型のLLMを動かす方法です。この記事では、各製品の米ドル定価と国内の実売価格、「AI HAT+ 2を足すとLLMは速くなるのか」という疑問への公式資料と実測値からの答え、Raspberry Pi OS（Trixie）での導入コマンドまでをまとめます。
まとめ：ラズパイでAIを動かす構成の選び方と価格
カメラ映像の物体検出が目的なら、Raspberry Pi 5とAI HAT+ 13 TOPS（70ドル／国内15,840円）が第一候補です（カメラは別途必要）。Pi 4やZero 2 Wで画像認識をしたいなら、どのボードにもつながるAI Camera（70ドル／15,180円）を選びます。
生成AIは判断が分かれます。AI HAT+ 2（200ドル／44,000円）は、Raspberry Pi公式とHailoが1トークンずつの文章生成ではなく、入力の読み込みや画像のエンコードが重い処理で強いと説明している製品です。Qwen2.5 1.5Bでの第三者の実測でも、チャットの生成速度はPi 5のCPU単体より遅い結果でした。チャットを試すだけなら先にCPUでOllamaやLiteRT-LMを動かし、VLMで映像を説明させる、CPUを他の処理に空けたまま常時動かす、といった要件が出てからAI HAT+ 2を足すのが失敗の少ない順序です。AI Kitは生産終了しているので、新しく買う理由はありません。
ラズパイ×AIでできること（画像認識・ローカルLLM・AIエージェント）
やりたいことは3種類に分かれ、どれを選ぶかで必要な部品と予算が変わります。
カメラ映像の物体検出・姿勢推定（ビジョンAI）
公式の手順とデモが揃っているのが、カメラ映像に対する推論です。Raspberry Pi公式ドキュメントでは、AI HAT+を載せたPi 5でYOLOv5／v6／v8／YOLOXによる物体検出、YOLOv5のセグメンテーション、YOLOv8による17点の姿勢推定を、標準のカメラアプリrpicam-helloに後処理ファイルを指定するだけで動かす手順が示されています（Raspberry Pi公式：AI software）。人の検出、ライン上の外観検査、来店カウントなどがこの系統です。物体検出の手法自体は物体検出とは？仕組み・代表手法の比較から実装判断までエンジニア向けに解説で整理しています。
ローカルLLM・VLMによる生成AI
ネットにつながずに、ラズパイの上で文章を生成したり、画像を言葉で説明させたりする用途です。AI HAT+ 2では、Hailoが配布するhailo-ollama（Ollama互換のAPIサーバー）でQwen2・Qwen2.5・DeepSeek-R1-Distillなど1.5B前後の小型モデルを動かせます（Raspberry Pi公式ニュース 2026-01-15）。CPUだけでも、Google公式のLiteRT-LMでGemma 4 E2Bが動きます（後述）。ChatGPTのような汎用の知識や長い会話は1.5B級のモデルでは期待できず、要約・分類・定型応答のように範囲を絞ったタスク向けです。
クラウドのLLMを使うAIエージェント（OpenClaw）
推論はクラウドのLLMに任せ、ラズパイを「常時起動のAIエージェントの置き場所」にする使い方もあります。Raspberry Pi公式ブログは、AIエージェントのOpenClawをメインPCではなく独立したラズパイに入れることで、システムへの深いアクセス権を隔離できると紹介しており、Pi 5に加えて8GBのPi 4でも動くと書いています（Raspberry Pi公式ニュース 2026-02-19）。この用途ではNPUは不要です。OpenClaw本体についてはClawdbot（現OpenClaw）とは？できること・導入手順・危険性を解説で扱っています。
AIアクセラレータ4製品の仕様と価格の比較
ラズパイ公式のAI関連製品は、Hailo製NPUを載せる「AI HAT+／AI HAT+ 2／AI Kit」と、カメラ側に推論機能を持つ「AI Camera」に分かれます。米ドル定価はRaspberry Pi公式の製品資料と値上げ告知、国内価格はスイッチサイエンスの販売価格（税込・2026-10-18時点）です。
| 製品 | チップ | 性能 | 専用メモリ | LLM/VLM | 対応ボード | 米ドル定価 | 国内実売 |
|---|---|---|---|---|---|---|---|
| AI HAT+ 13 TOPS | Hailo-8L | 13 TOPS（INT8） | なし | 非対応 | Pi 5 | 70ドル | 15,840円 |
| AI HAT+ 26 TOPS | Hailo-8 | 26 TOPS（INT8） | なし | 非対応 | Pi 5 | 110ドル | 24,860円 |
| AI HAT+ 2 | Hailo-10H | 40 TOPS（INT4） | 8GB | 対応 | Pi 5 | 200ドル | 44,000円 |
| AI Camera | Sony IMX500 | センサー内で推論 | 約8MB | 非対応 | 全モデル | 70ドル | 15,180円 |
| AI Kit（生産終了） | Hailo-8L | 13 TOPS | なし | 非対応 | Pi 5 | – | 14,300円（掲載価格・売り切れ） |
本体のRaspberry Pi 5も2026年に入ってメモリ価格の高騰で値上げが続き、現在の定価は4GBが110ドル、8GBが175ドルです（Raspberry Pi 5 product brief）。8GBのPi 5にAI HAT+ 2を載せると定価だけで375ドルになり、ここに電源・Active Cooler・ストレージの費用が加わるので、生成AI目的の構成は本体とHATの価格だけで予算を組まないでください。ビジョン用途ならPi 5 4GB＋AI HAT+ 13 TOPSの180ドルで足ります。世代ごとの差はRaspberry Pi 5とPi 4の違いを比較｜スペック・性能・価格と選び方【2026年10月】を参照してください。
AI HAT+（13/26 TOPS）：ビジョン用途の標準
Hailo-8L（13 TOPS）またはHailo-8（26 TOPS）を基板に直付けしたHATで、Pi 5のPCIe端子へリボンケーブルで接続します。推論に使うメモリはPi 5本体と共有するため、LLMとVLMには対応しません（Raspberry Pi公式：AI HATs）。公式の説明では、13 TOPSは中程度の負荷向け、26 TOPSは大きなネットワーク・高いスループット・複数モデルの並列実行向けです。製品資料には少なくとも2030年1月まで生産を続けると明記されており、長期の組み込み案件でも選びやすい製品です（AI HAT+ product brief）。
AI HAT+ 2（40 TOPS・8GB）：生成AIに対応した上位機
2026年1月15日に130ドルで発売され、Hailo-10Hと8GBのLPDDR4Xを積みます。2026年4月1日のメモリ起因の値上げで50ドル上がり（Raspberry Pi公式ニュース 2026-04-01）、2026-10-18時点の製品資料（RP-009655-MM-6）の定価は200ドルです。同じ資料には少なくとも2036年1月まで生産を続けると書かれています（AI HAT+ 2 product brief）。公式ドキュメントは「約60億パラメータまでのLLM/VLMを動かせる」と書いていますが、実際に配布されている事前コンパイル済みモデルは、2026-09-16公開のHailo Model Zoo GenAI v5.4.0でもLLMがQwen3 1.7B、VLMがQwen2-VL-2B／Qwen3-VL-2Bまでで、コンテキスト長はいずれも2,048トークンです（Hailo Model Zoo GenAIのモデル一覧）。物体検出などのビジョン性能は、製品資料では26 TOPS版のAI HAT+と「同等以上」とされています。
AI Camera（Sony IMX500）：Pi 4やZero 2 Wでも使えるAIカメラ
1,230万画素のIMX500センサーの中で推論し、結果をメタデータとして本体へ渡すカメラモジュールです。製品資料では全Raspberry Piと互換で、推論用メモリは8,388,480バイト（ファームウェア・重み・作業領域の合計）、生産は少なくとも2028年1月までとされています（AI Camera product brief）。PCIeを使わないため、Pi 4やZero 2 Wで物体検出をしたい場合はこれが唯一の公式製品です。監視カメラとして録画まで組む手順はラズパイでAI監視カメラを作る方法｜カメラの選び方とAI Camera（IMX500）で人を検知して録画するまでにまとめています。
AI Kit：生産終了、仕様はAI HAT+ 13 TOPSと同等
2024年に出た初代で、M.2 HAT+にHailo-8Lモジュールを挿した2枚構成でした。公式ドキュメントは「AI KitはAI HAT+のHailo-8L版と同じ仕様で機能的に同等だが、すでに生産しておらず、AI HATの利用を推奨する」と明記しています。スイッチサイエンスの掲載価格は14,300円（2026-10-18時点で売り切れ）とAI HAT+ 13 TOPSより1,540円安いだけで、PCIe Gen 3.0を手動で有効化する手間も残ります。
AI HAT+ 2のLLM性能：公式資料と第三者実測での検証
「40 TOPSのNPUを足せばLLMが速くなる」と考えて買うと、期待とずれます。
公式説明でのAI HAT+ 2の得意分野：入力処理とTTFT
HailoがRaspberry Pi公式ブログに寄稿した記事は、AI HAT+ 2が最も強いのは「1トークンずつの生成が支配的な処理ではなく、前段の計算が重い処理」だと述べ、画像や音声のエンコード、最初の1トークンが返るまでの時間（TTFT）、出力より入力が長い処理、複数モデルをつなぐパイプラインを挙げています。示されている数値も、Qwen2.5-1.5B（4bit）に96トークンを入力したときのTTFTが、Pi 5のCPU（llama.cpp）で2,039ミリ秒、Hailo-10Hで320ミリ秒という入力側の比較です（When and why you might need the Raspberry Pi AI HAT+ 2）。生成速度（tokens/s）の比較は載っていません。
Hailoの公表値とQwen2.5 1.5Bでの第三者実測
Hailo自身のモデル一覧でも、生成速度（TPS）はQwen2.5-1.5B-Instructが7.35、Llama3.2-1B-Instructが9.89、Qwen3-1.7B-Instructが4.78で、1秒あたり5〜10トークンにとどまります（測定したホストの条件は記載なし）。ai-local-labが同じプロンプトで比べた実測（2026-07-10）では、Qwen2.5 1.5Bの生成速度はPi 5のCPU単体（Ollama 0.31.1）が9.72 tokens/s、AI HAT+ 2（hailo-ollama 0.5.1）が7.05 tokens/sで、AI HAT+ 2のほうが遅い結果でした。一方、同じ記事が報告する消費電力は6.2Wに対して2.4W、最高温度は65.0℃に対して52.7℃で、電力と発熱ではAI HAT+ 2が有利でした（測定範囲がボード全体かは記事に明記がありません。また出力トークン数はCPU側256に対しAI HAT+ 2側が短く、条件は完全にはそろっていません。ai-local-lab：Raspberry Pi 5 + AI HAT+ 2 でLLMは速くなるのか）。同じ記事ではYOLOv8mの物体検出が76.25 FPSで、NPUが効くのはむしろビジョン側だとわかります。
CPUだけで動かす場合の目安：Gemma 4 E2Bで生成9 tokens/s
アクセラレータを足さない選択肢の目安として、Raspberry Pi公式ブログ（2026-08-11）にGoogleが載せたベンチマークがあります。Pi 5（8GB）のCPU 4スレッドで、LiteRT-LMで動かしたGemma 4 E2Bは読み込み99 tokens/s・生成9 tokens/s・ピークメモリ1,432MB、同じモデルをllama.cpp（Q4_0）で動かすと読み込み24 tokens/s・生成4 tokens/s・ピークメモリ4,406MBでした（Mastering edge AI on Raspberry Pi with LiteRT and Gemma）。実行環境に加えて量子化の条件（LiteRT-LMはQAT、llama.cppはQ4_0）も違いますが、同じPi 5で生成速度に2倍以上の差が出るため、CPUで試すならLiteRT-LMから始めるのが近道です。LiteRTの位置づけはTensorFlow Lite（LiteRT）とは？改称後の位置づけ・モデル変換・NPU実行を実装目線で解説で解説しています。
判断：AI HAT+ 2を足すべき場面と、足さなくてよい場面
以上から、AI HAT+ 2を買う価値があるのは次のような場面です。カメラ映像をVLMで言葉にしてログや通知を作る場合、音声認識の結果と最新のセンサー値をまとめて小型LLMに渡し短い命令を返させる場合、LLMを動かしながらCPUを別の処理に空けておきたい場合、常時稼働で消費電力を抑えたい場合（効果は使うモデルで実測して確かめる）です。逆に、チャットの応答を速くしたいだけなら、先にCPUで試してください。引用したQwen2.5 1.5Bの比較ではCPUのほうが生成が速く、Hailo自身の公表値も5〜10 TPSにとどまるため、生成速度の改善だけを目的に200ドルを払う根拠は現時点では見当たりません。NPUのTOPSが実効性能と一致しない理由はNPUとは？CPU・GPUとの役割分担とTOPSの実効性能・採用判断【2026年版】で詳しく扱っています。
用途別の選び方と避けるべき構成
画像認識・物体検出向けの選定：AI HAT+ 13 TOPSが起点
人物検出なら、まずAI HAT+ 13 TOPSで公式デモを動かして必要なフレームレートが出るかを確かめます。外観検査は汎用デモの速度では判断できないので、実際の検査画像で学習させた専用モデルを動かして検出精度を見ます。複数のモデルを同時に走らせる、解像度を上げると処理が追いつかない、といった不足が見えてから26 TOPSへ上げれば、差額40ドルを無駄にしません。AI HAT+ 2のビジョン性能は製品資料で26 TOPS版と「同等以上」とされていますが、26 TOPS版より90ドル高いため、画像認識だけが目的なら、使うモデルでの性能差を確かめてから選びます。
Pi 4・Zero 2 W向けの選択肢：AI Cameraとクラウド連携
AI HAT+シリーズはPCIe接続のためPi 5専用です。手元のPi 4でAIを使うなら、カメラ映像の推論はAI Camera、文章の生成や判断はOpenClawのようにクラウドのLLMへ任せる構成になります。どちらも追加のNPUなしで成り立ちます。
業務向け構成の選定基準：オフライン要件と量産対応
工場や店舗で映像を外に出せない、ネットワークが切れても判定を止められない、という要件ならラズパイ＋Hailoは費用対効果の高い選択肢です。一方で、2B超のモデルを動かしたい、GPUでCUDA前提のソフトを使いたい、産業用の筐体や長期保守を一体で調達したい、といった要件ではNVIDIA Jetsonなど別のプラットフォームも比較に入れるべきです（NVIDIA Jetsonとは？Orin・Thorの違いと選定基準・量産判断を実装視点で解説【2026年版】）。社内データを使う生成AIをオフラインで動かす構成から検討したい場合は、生成AI導入支援でもご相談を受け付けています。
AI HAT導入で失敗しやすい構成：パッケージ・版・冷却
- hailo-allとhailo-h10-allを両方入れる：公式ドキュメントは「AI Kit・AI HAT+用のhailo-allとAI HAT+ 2用のhailo-h10-allは共存できない」と明記しています。HATを差し替えるときはパッケージも入れ替えます。
- Hailoのソフトウェアの版をそろえない：Hailo-8系では、特定の版のツールチェーンで作ったモデルは同じ版のhailort・hailo-tappas-core・hailo-dkmsでないと正しく動かないと公式が注意しています。aptで上がらないよう
apt-mark holdで固定する手順も公式にあります。 - 冷却を省く：公式はPi 5のActive Coolerを推奨し、AI HAT+ 2の付属ヒートシンクは任意としつつ、ベンチマークや高負荷の処理では過熱による速度低下を防ぐため装着を推奨しています。
- AI Kitを新規に買う：生産終了品で、価格差もほぼありません。
セットアップ手順：Raspberry Pi 5＋AI HAT+／AI HAT+ 2
ここからは公式ドキュメントの手順に沿って、OSの準備から物体検出のデモまでを進めます。2026年10月時点の公式手順は64bit版Raspberry Pi OS（Trixie）が前提です。
必要な機材とOSの準備
Raspberry Pi 5、AI HAT+またはAI HAT+ 2（スペーサー・ネジ・GPIOスタッキングヘッダー・リボンケーブルが付属）、Active Cooler、プラスドライバー、カメラ（Camera Module 3など）を用意します。電源は5V/5A（27W）のUSB-C電源を使ってください。OSはRaspberry Pi ImagerをLinuxで使う方法｜apt・snapの旧版1.xに注意、2.0の導入とCLIの手順で64bit版のTrixieを書き込みます。公式はカメラを先に接続し、その後にAI HATを取り付ける順序を推奨しています。
OS・ファームウェアの更新とHailoパッケージの導入
まずOSとブートローダーを最新にします。
sudo apt update
sudo apt full-upgrade -y
sudo rpi-eeprom-update -a
sudo reboot次に、カーネルドライバーをビルドするdkmsと、ドライバー・HailoRT・後処理ライブラリをまとめたパッケージを入れます。AI Kit・AI HAT+とAI HAT+ 2でパッケージ名が違う点に注意してください。
AI Kit・AI HAT+（Hailo-8L／Hailo-8）の場合は次の2行を実行します。
sudo apt install dkms
sudo apt install hailo-all
sudo rebootAI HAT+ 2（Hailo-10H）の場合は、上のコードは実行せず、次の2行だけを実行します。
sudo apt install dkms
sudo apt install hailo-h10-all
sudo reboot2026-10-18時点のRaspberry Piリポジトリ（trixie）では、hailo-allが5.1.1（hailort 4.23.0を含む）、hailo-h10-allが5.1.1（h10-hailort 5.1.1を含む）です。PCIe Gen 3.0の有効化（dtparam=pciex1_gen=3）が必要なのはAI Kitだけで、AI HAT+とAI HAT+ 2では自動で適用されます。
NPUが認識されているかの確認
再起動後、次のコマンドでデバイス情報が表示されれば導入は完了です。AI HAT+とAI HAT+ 2ではSerial NumberやProduct Nameが<N/A>と表示されることがありますが、公式は動作に影響しないとしています。
hailortcli fw-control identify
dmesg | grep -i hailodmesgに/dev/hailo0が出ていれば、カーネル側の認識も取れています。
rpicam-helloでの物体検出・姿勢推定デモ
カメラアプリと後処理を入れ、YOLOv8の物体検出を動かします。後処理ファイルを差し替えると姿勢推定に切り替わります。
sudo apt update && sudo apt install rpicam-apps
rpicam-hello -t 0 --post-process-file /usr/share/rpi-camera-assets/hailo_yolov8_inference.json
# 姿勢推定（17点）
rpicam-hello -t 0 --post-process-file /usr/share/rpi-camera-assets/hailo_yolov8_pose.json-nを付けるとプレビュー画面を出さず、-v 2で検出結果を端末に文字で出せます。検出枠が出ない場合は、hailortcliでデバイスが見えているか、カメラ単体でrpicam-helloのプレビューが出るかを順に確かめます。
AI HAT+ 2でローカルLLMを動かす手順（hailo-ollama）
AI HAT+ 2では、前章のhailo-h10-allに加えて、HailoのGenAIモデル集とAPIサーバー（hailo-ollama）を入れます。公式ドキュメントの構成は、Hailo-10H上のモデルをhailo-ollamaが読み込み、REST APIで受け付け、必要ならOpen WebUIをチャット画面として使う形です。
Hailo Model Zoo GenAIの導入とHailoRTの版合わせ
公式ドキュメントが指定しているのは5.1.1のDebianパッケージです。
wget https://dev-public.hailo.ai/2025_12/Hailo10/hailo_gen_ai_model_zoo_5.1.1_arm64.deb
sudo dpkg -i hailo_gen_ai_model_zoo_5.1.1_arm64.debGitHubには新しいv5.4.0（2026-09-16）があり、READMEのバッジもHailoRT 5.4.0を示していますが、Raspberry Piのaptで入るh10-hailortは5.1.1です。Hailoのモデル一覧にも「一部の事前コンパイル済みモデルはv5.4.0専用で、v5.1.1用のモデルはv5.1.1のモデル一覧を参照」と注記があります。新しいほうを入れたくなっても、aptで入るHailoRTの版に合わせてください。
モデルの取得とAPIでの実行
1つ目の端末でhailo-ollamaを起動し、別の端末から一覧の取得、モデルのダウンロード、問い合わせを行います。既定のポートは8000です。
# 端末1
hailo-ollama
# 端末2：使えるモデルの一覧
curl --silent http://localhost:8000/hailo/v1/list
# モデルを取得（例：qwen2:1.5b）
curl --silent http://localhost:8000/api/pull \
-H 'Content-Type: application/json' \
-d '{ "model": "qwen2:1.5b", "stream" : true }'
# 問い合わせ
curl --silent http://localhost:8000/api/chat \
-H 'Content-Type: application/json' \
-d '{"model": "qwen2:1.5b", "messages": [{"role": "user", "content": "Translate to French: The cat is on the table."}]}'APIはOllama互換なので、Ollamaの/api/chatなどを使うクライアントは、接続先をhttp://localhost:8000に変え、モデル名を一覧にあるものに合わせれば流用できます（Ollamaの全機能に対応しているとは限らないので、使うAPIは事前に試してください）。物体検出などHailoRTを使う別のアプリと同じNPUを共有したい場合は、環境変数HAILO_OLLAMA_VDEVICE_GROUP_ID=SHAREDを付けてhailo-ollamaを起動します（hailo-ai/hailo_model_zoo_genai）。
Open WebUIによるブラウザのチャット画面
Open WebUIはTrixieのPython 3.13に対応していないため、公式はDockerのコンテナで動かす手順を案内しています。Dockerを公式リポジトリから入れたあと、hailo-ollamaを起動した状態で次を実行し、ブラウザでhttp://127.0.0.1:8080を開きます。
docker pull ghcr.io/open-webui/open-webui:main
docker run -d -e OLLAMA_BASE_URL=http://127.0.0.1:8000 \
-v open-webui:/app/backend/data --name open-webui \
--network=host --restart always ghcr.io/open-webui/open-webui:main--network=hostを外すと、コンテナからホスト側の8000番ポートに届かなくなります。VLMで画像を説明させる、音声で会話するといった応用は、Hailoのhailo-appsリポジトリにサンプルがあります。
AI Cameraの導入手順（Pi 4・Zero 2 Wでも可）
AI Cameraは公式手順がPi 4とPi 5を前提に書かれており、Zero 2 WやPi 3 B+でも小さな変更で使えるとされています（Raspberry Pi公式：AI Camera）。カメラを接続してOSを更新したら、ファームウェアとモデル一式を入れて再起動します。
sudo apt update && sudo apt full-upgrade
sudo apt install imx500-all
sudo reboot
# MobileNet SSDで物体検出
rpicam-hello -t 0s --post-process-file /usr/share/rpi-camera-assets/imx500_mobilenet_ssd.json --viewfinder-width 1920 --viewfinder-height 1080 --framerate 30imx500-allはIMX500用のファームウェアを/lib/firmware/に、ネットワークのモデルファイルを/usr/share/imx500-models/に置きます。後処理ファイルをimx500_posenet.jsonに替えると姿勢推定になり、Pythonで扱う場合はPicamera2のサンプル（raspberrypi/picamera2-examples）を使います。
よくある質問
ラズパイでAIを動かすのに必要な費用はいくらですか？
米ドル定価で、画像認識ならRaspberry Pi 5 4GB（110ドル）＋AI HAT+ 13 TOPS（70ドル）の180ドル、生成AI向けならPi 5 8GB（175ドル）＋AI HAT+ 2（200ドル）の375ドルが目安です。国内ではスイッチサイエンスでAI HAT+ 13 TOPSが15,840円、AI HAT+ 2が44,000円、AI Cameraが15,180円です（いずれも税込・2026-10-18時点）。ほかに電源・Active Cooler・microSDカードが必要です。
ラズベリーパイのカメラはAI搭載ですか？
Camera Module 3などの通常のカメラは撮影だけで、推論はしません。AIを内蔵しているのはSony IMX500を使ったRaspberry Pi AI Camera（70ドル）で、センサーの中で物体検出や姿勢推定の推論を行い、画像と推論結果のメタデータを本体へ渡します。検出枠の描画などの後処理は本体側で行います。Pi 5以外のRaspberry Piでも使えます。
Raspberry Pi 4でAI HAT+は使えますか？
使えません。AI HAT+とAI HAT+ 2はPi 5のPCIe端子に接続するため、Pi 5専用です。Pi 4でカメラ映像の推論をするならAI Camera、文章の生成や判断をさせるならクラウドのLLMにつなぐAIエージェント（OpenClawなど）が現実的です。
AI HAT+ 2を付けるとLLMの応答は速くなりますか？
生成速度は大きくは上がりません。Hailoが公表する生成速度は1.5B前後のLLMで1秒あたり5〜10トークンで、第三者によるQwen2.5 1.5Bの比較ではCPU単体の9.72 tokens/sに対しAI HAT+ 2は7.05 tokens/sでした。AI HAT+ 2の利点は、推論をCPUから切り離せることと、公式が得意分野に挙げる長い入力や画像のエンコードです。消費電力や応答時間の改善幅はモデルと測定条件で変わるので、使うモデルで確かめてください。
AI KitとAI HAT+の違いは何ですか？今からAI Kitを買うべきですか？
性能は同じHailo-8L（13 TOPS）で、AI KitはM.2 HAT+とモジュールの2枚構成、AI HAT+はチップを基板に直付けした1枚構成です。AI Kitは生産終了しており、公式もAI HATの利用を推奨しています。国内の掲載価格も14,300円（売り切れ）とAI HAT+ 13 TOPSと1,540円しか違わないため、新しく買うならAI HAT+を選んでください。
