Razer AIKitとは？最新版v0.7.0の機能・導入手順・対応GPUと採用判断

Razer AIKitは、Razerが2026年1月のCESで発表し、GitHubでApache-2.0として公開しているローカルLLM開発環境です。推論エンジンのvLLM、ファインチューニングのLlamaFactory、分散処理のRayを1つのDockerイメージに収め、NVIDIA GPUを積んだPCやワークステーションで推論・LoRA学習・複数GPUへのスケールを試せます。2026年10月時点の最新版はv0.7.0（2026年9月11日公開）で、現在もPreview扱いです。この記事では、v0.1.0からの変更点、対応GPU、WSL2を含む導入手順、使い始めでつまずく箇所、採用を見送るべき条件までをまとめます。

まとめ：Razer AIKitの最新バージョンと導入判断の要点

• 最新版はv0.7.0（2026年9月11日）。同梱vLLMは0.28.0、イメージはCUDA 13.0・PyTorch 2.13.0。v0.1.0（2025年12月）からほぼ月1回のペースで版が上がっています。
• v0.7.0でRAGパイプライン、v0.6.0で音声エージェント、v0.5.0で動画生成UI、v0.4.0で音声生成UI、v0.3.0で画像生成とArm64対応が加わりました。v0.2.0の目玉はGrafana監視とOpen WebUIでした。
• 必要なのはNVIDIA GPUです。READMEはCompute Capability 7.0以上としていますが、同梱のCUDA 13.0が対象とするのはTuring（7.5）以降で、V100などのVoltaは外れています。OSはWindows 11のWSL 2か、Ubuntu 22.04／24.04です。Razer製のPCでなくても動きます。
• 導入はNVIDIAドライバ、Docker Engine、NVIDIA Container Toolkitを入れたうえで docker run ... razerofficial/aikit:latest を実行するだけです。監視込みの構成はDocker Composeで立ち上げます。
• 標準のRAG構成は英語用の埋め込みモデルなので、日本語文書が中心ならモデルの差し替えが前提です。Apple SiliconやAMD GPUの環境、安定版を求める本番用途には向きません。

以下、構成、リリース履歴、要件、導入手順、使い方の順に説明します。

Razer AIKitの構成：vLLM・LlamaFactory・Rayを束ねたDockerイメージ

AIKitの実体は、OSSを組み合わせたDockerイメージと、それを操作する rzr-aikit コマンドです。Razerは独自の推論エンジンを作ったわけではなく、vLLMで推論し、LlamaFactoryでLoRA学習を行い、Rayで複数GPU・複数マシンへ処理を分ける構成をまとめて配っています。READMEは自らを「Open-source AI development environment」と説明し、ページ冒頭に「Preview Release」の警告を置いています。

vLLMとPyTorchの版はDocker Hubのタグ名 cuda13.0-torch2.13.0-vllm0.28.0-aikit0.7.0 から読み取れます。初版v0.1.0のリリースノートにはLlamaFactory 0.9.4とRay 2.50.1が明記されていましたが、v0.2.0以降のノートにはこの2つの版がありません。vLLM単体の仕組みはvLLMとは？PagedAttentionの仕組み・使い方とOllama・TensorRT-LLMとの違いで解説しています。

リリース履歴：v0.1.0からv0.7.0までの変更点

GitHubのReleasesには7つの版が並んでいます。どの版も名前に「Preview」が付いており、安定版はまだありません。同梱vLLMは複数回更新されており、v0.7.0では0.28.0です。

v0.3.0のGitHubタグは v0.3.2 です。Docker Hubには、2026年4月27日に出た aikit0.3.2（vLLM 0.18.0・CUDA 13.0）というイメージもあります。リリースノートとイメージで版の表記が揃っていないので、手元の構成を確かめるときはDocker Hubのタグ名を見るのが確実です。

v0.2.0の追加機能：Grafana監視とGPU Ordering

v0.2.0では、Grafanaの監視ダッシュボードとOpen WebUIのチャット画面が追加されました。ダッシュボードにはトークン毎秒、TTFT（最初のトークンが出るまでの時間）、RPS（毎秒リクエスト数）とGPUの指標が表示されます。同じ版で入ったGPU Ordering（Preview）は、性能の違うGPUを混在させたときにGPUの実行順を明示し、遅いGPUが全体の足を引っ張らないようにする機能です。単体マシンでもRayクラスタでも使えます。リリースノートによると、vLLM 0.14.1への更新でMoEモデルのTTFTが最大10.8%改善し、コンテナイメージは24.3%小さくなりました。

v0.3.0〜v0.6.0：画像・音声・動画への拡張

v0.3.0でvLLM-Omniが加わり、テキスト以外のモデルも動かせるようになりました。画像生成（Tongyi-MAI/Z-Image-Turboやblack-forest-labs/FLUX.2-klein-4B）、動画生成、音声認識、音声合成が対象です。同じ版でArm64にも対応し、NVIDIA GB10（DGX Spark）でも動くようになりました。生成用の画面は rzr-aikit ui run で起動するGradioのWeb UIで、既定のポートは7860です。v0.4.0で音声生成、v0.5.0で動画生成の画面が加わりました。v0.6.0では、音声認識・LLM・音声合成をノートPCの中だけでつなぐ voice_agent サブモジュールが入り、Realtime API互換のクライアントから接続できるようになっています。

v0.7.0の新機能：ローカルRAGパイプライン

最新のv0.7.0では、手元の文書を検索して回答させるRAGがローカルで完結します。公式ガイド（docs/rag.md）の構成では3つのモデルを別ポートで同時に立て、Open WebUIのナレッジ機能から呼び出します。

ベクトルDBはChromaDBで、BM25とのハイブリッド検索が有効になっています。分割単位は埋め込みモデルのトークンで数えて CHUNK_SIZE=450 です。3つのモデルの --gpu-memory-utilization（0.1、0.7、0.1）の合計が1.0未満になるように決められているので、1枚のGPUに同居させるときはこの合計を崩さないようにします。日本語文書で使うときの注意点は後述の「既知の問題」の章で扱います。

対応GPUと動作要件：READMEの記載と同梱CUDAの対応範囲

READMEとdocs/gpu-compatibility.mdにはCompute Capability 7.0以上のNVIDIA GPUとあります。ただし、CUDA 13.0ではVoltaのライブラリ対応が終了しており、この記載だけで現行イメージの互換性は判断できません。以下はGPU世代とCompute Capabilityの対応表であり、掲載GPUすべての動作を保証するものではありません。AMD GPUやApple Siliconは記載がありません。

手元のGPUの値は次のコマンドで確認できます。GPU使用率やメモリの見方はnvidia-smiの使い方｜GPU使用率とメモリの見方・CSV記録・DCGMへの移行判断にまとめています。

nvidia-smi --query-gpu=name,compute_cap --format=csv

Setup Guideが示す最小要件は、RAM 8GB（16GB以上推奨）、空きストレージ50GBです。推奨はRAM 32GB以上、VRAM 8GB以上のGPU（RTX 3080やRTX 4070以上）、モデル置き場として200GB以上のSSDです。v0.7.0のイメージはDocker Hub上の圧縮サイズでamd64版が約9.4GB、arm64版が約11.3GBあり、モデルの重みはこれとは別にHugging Faceのキャッシュへ溜まっていきます。50GBは最低ラインと考えておくのが安全です。

Razer製ハードウェアとの関係：BladeとForge AI Dev Workstation

READMEの対応プラットフォームには、Razer Blade（GeForce RTX 20〜50シリーズ搭載機）と並んで、NVIDIA RTXワークステーション、DGXシステム、データセンター向けGPUが載っています。Razer製のPCでなくても動き、ライセンス上の制約もありません。

AIKitと同じ2026年1月6日には、Razerがデスクトップ機のForge AI Dev Workstationを発表しています。RazerのNewsroomによると、NVIDIA RTX PRO 6000 Blackwellなどのプロ向けGPUを複数枚、AMD Ryzen Threadripper PROかIntel Xeon Wを搭載でき、DDR5 RDIMMは8枚、10ギガビットのEthernetを2ポート備えます。価格はこの発表には書かれていません。複数GPU構成でAIKitのRayクラスタを試す土台にはなりますが、AIKitを使うための必須機材ではありません。

導入手順：WSL2・Docker・NVIDIA Container Toolkitからの起動

AIKitはコンテナ内で動くので、ホスト側に必要なのはNVIDIAドライバ、Docker Engine、NVIDIA Container Toolkitの3つです。WindowsではNVIDIAドライバをWindows側に、Docker EngineとNVIDIA Container ToolkitをWSL 2のUbuntu側に入れます。WSL内にLinux用NVIDIAドライバを入れてはいけません。

Windows 11の前提設定：WSL 2のミラーモードとファイアウォール

Windowsで起動するときに公式手順が指定している設定は次の4つです。

• NVIDIA AppからGPUドライバを入れ、安定性を優先してStudio Driverを選ぶ
• wsl --install -d Ubuntu-24.04 でUbuntu 24.04を入れる
• WSL Settingsの「Networking」でネットワークモードをMirroredにする（.wslconfig に networkingMode=mirrored と書いてもよい）
• 管理者権限のPowerShellで、WSLへの着信を許可するファイアウォール設定を入れる

Set-NetFirewallHyperVVMSetting -Name '{40E0AC32-46A5-438A-A0B2-2B479E8F2E90}' -DefaultInboundAction Allow

このコマンドは、WSLへの着信をすべて通す設定です。社用PCでは情報システム部門のポリシーとぶつかる可能性があるので、適用する前に確認してください。

Ubuntu 22.04／24.04の前提設定

UbuntuではDocker Engineを公式リポジトリから入れ、NVIDIAドライバは「ソフトウェアとアップデート」の「追加のドライバー」タブから入れます。続けてNVIDIA公式のインストールガイドに従い、Container Toolkit用APTリポジトリと署名鍵を登録して、パッケージ一覧を更新します。その後、以下のコマンドでToolkitを入れ、Dockerのランタイムに登録します。

sudo apt-get install -y nvidia-container-toolkit
sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart docker
docker run --rm --gpus all hello-world

最後の docker run --rm --gpus all hello-world はコンテナ起動の確認です。GPUの認識は、追加で sudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi を実行し、GPU情報が表示されることを確認します。

docker runによる最小構成の起動

前提が揃ったら、Hugging Faceのアクセストークンを渡してコンテナを起動します。Llama系などの利用規約への同意が必要なモデルは、トークンがないとダウンロードできません。キャッシュディレクトリをホストにマウントしておけば、コンテナを作り直してもモデルを取り直さずに済みます。

mkdir -p $HOME/.cache/huggingface
docker run -it \
  --restart=unless-stopped \
  --gpus all \
  --ipc host \
  --network host \
  --mount type=bind,source=$HOME/.cache/huggingface,target=/var/aikit/.cache/huggingface \
  --env HUGGING_FACE_HUB_TOKEN=<YOUR_TOKEN> \
  razerofficial/aikit:latest

コンテナに入ったら、jupyter lab --ip="0.0.0.0" でJupyterLabを開いてノートブックの手順に沿って進めるか、rzr-aikit model run でモデルを直接起動します。リポジトリのnotebooks/には、端末内推論、分散推論、画像・音声・動画生成、LoRA学習、OpenAI API連携、セマンティック検索、音声エージェント、RAGのノートブックが番号順に並んでいます。

Docker Composeによる監視込みの構成

監視とチャット画面まで使うなら、リポジトリをcloneしてComposeで立ち上げます。

git clone https://github.com/razerofficial/aikit.git && cd aikit
export HUGGING_FACE_HUB_TOKEN=<YOUR_TOKEN>
docker compose -f docker_compose/docker-compose.yaml up -d --pull always

Composeファイルでは、GrafanaとPrometheusが latest、Open WebUIが main タグで指定されています。--pull always を付けると起動のたびに別の版を取ってくる可能性があるので、再現性が必要な検証環境ではタグを固定してください。PrometheusのexporterやPromQLの設計はPrometheusで監視を構築する手順｜exporter設計・PromQL・保持期間の見積りで扱っています。

rzr-aikitコマンドの使い方：モデルの実行・生成・停止

rzr-aikit のサブコマンドは model、cluster、ui、metrics の4系統です。日常的に使うのは model 系です。

rzr-aikit model download Qwen/Qwen3.5-0.8B      # Hugging Faceから取得
rzr-aikit model list                            # キャッシュ済みモデルと実行可否
rzr-aikit model run Qwen/Qwen3.5-0.8B --max-model-len 4096
rzr-aikit model generate "Explain quantum computing" --max-tokens 512
rzr-aikit metrics                               # TTFT・スループット・GPU使用率
rzr-aikit model stop                            # vLLMサーバーをすべて停止

model list はキャッシュ済みのモデルごとに、空きGPUメモリで動かせるかを3段階で表示します。そのまま動くものは「Yes」、4bit量子化なら動くものは「Limited」、メモリ不足なら「No」です。model run はモデル名のあとに書いた引数をそのまま vllm serve へ渡すので、--max-model-len や --quantization bitsandbytes などvLLMのオプションがそのまま使えます。

起動したサーバーはOpenAI互換APIをポート8000で待ち受けます。OpenAI互換の対応APIを使うコードは、接続先URLとmodelをローカルサーバーの設定に合わせて変更します。認証を設定している場合はAPIキーも合わせ、利用するAPIや引数がvLLMで対応しているか確認します。

curl http://localhost:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "Qwen/Qwen3.5-0.8B", "messages": [{"role": "user", "content": "こんにちは"}]}'

LoRAファインチューニングとRayによる分散実行

llamafactory-cliによるLoRA学習とアダプタの配信

学習はコンテナ内の llamafactory-cli train で行います。公式ガイドが例に使っているのはQwen/Qwen2.5-0.5B-Instructとalpaca-gpt4データセットの組み合わせで、データセットは dataset_info.json に定義し、--dataset_dir で場所を指定します。--lora_rank の典型値は8〜16、--lora_alpha はランクの1〜2倍、学習率は1e-4〜5e-4がガイドの目安です。LlamaFactory自体はQLoRA、DoRA、フルパラメータ学習にも対応しています。VRAMが足りない場合の選択肢はQLoRAとは？4bit量子化＋LoRAの仕組み・VRAM目安・実装手順と採用判断を参照してください。

学習したアダプタは、vLLMのLoRA配信機能でベースモデルに重ねて配信します。

rzr-aikit model run Qwen/Qwen2.5-0.5B-Instruct \
  --enable-lora \
  --lora-modules alpaca=~/fine-tuning/adapters/lora_alpaca_gpt4
rzr-aikit model generate --model alpaca "Your prompt here"

--model にアダプタ名を指定するとLoRA適用後のモデルで、ベースモデル名を指定すると素のモデルで生成します。複数のアダプタを同時に載せるときは --max-loras を増やします。既定値は1です。

Rayクラスタによる複数マシンへの分散

複数台のマシンにまたがって推論・学習するときは、1台を親ノード、残りを子ノードにしてRayクラスタを組みます。

# 親ノード（NICの名前は環境に合わせる。既定はeth0）
rzr-aikit cluster run --ifname enp130s0
# 子ノード（親のIPとRayのポート6379を指定）
rzr-aikit cluster join --ifname enp130s0 --address 192.168.1.100:6379
rzr-aikit cluster status

分散学習には3つの条件があります。環境変数 USE_RAY=1 を設定すること、Ray関連の設定（ray_num_workers など）をYAMLファイルに書くこと、データセットと出力先を全ノードから見える共有ストレージに置くことです。--ifname を実際のNIC名に合わせないと、NCCLが通信に使うインターフェースを誤り、ノード間通信で止まります。Rayそのものの仕組みはRayとは？分散処理フレームワークの仕組みと採用判断で解説しています。

つまずきやすい既知の問題と回避策

公式のKnown IssuesとRAGガイドのトラブルシューティング表には、Windowsのメモリ不足、WSL 2の接続不良、GB10でのクラッシュなどの報告と回避策が載っています。

WindowsでVRAMが10GB未満のときのメモリ不足

VRAMが10GB未満のWindows環境では、メモリ不足のエラーや極端な速度低下が起きます。rzr-aikit model run <モデル名> --gpu-memory-utilization 0.8 のように、vLLMが確保するGPUメモリの割合を下げて起動します。値を下げるほどKVキャッシュに回せる領域が減るので、長い文脈を扱う用途では --max-model-len も合わせて下げます。

WSL2でポート8000に接続できない問題

model run は正常に終わったのに、model generate が止まる、またはポート8000に接続できない、という症状です。公式の回避策は、モデルの起動後に python -m http.server --bind 0.0.0.0 8000 を一度実行することです。このコマンドは「ポートが使用中」というエラーで終わりますが、それで正常です。エラーが出たあとはvLLMのポートに届くようになります。WSL 2のネットワーク周りの癖なので、ミラーモードとファイアウォールの設定とあわせて確認します。

DGX Spark（GB10）でのクラッシュ

SM 121のGB10では、vLLM 0.28.0が行列演算中に落ちる、推論が応答しないまま止まる、MLA（Multi-Latent Attention）を使うモデルでカーネルの起動に失敗する、といった問題が報告されています。コンテナの起動時に VLLM_SKIP_DEEP_GEMM=1、VLLM_DISABLE_PLE=1、VLLM_FORCE_STANDARD_ATTENTION=1 の3つの環境変数を渡すのが公式の回避策です。性能への影響は多くの処理で0〜5%程度とされ、vLLMがSM 121に正式対応するまでの暫定措置という位置づけです。

標準のRAG構成で日本語文書を扱うときの注意

v0.7.0のRAGが標準で使う埋め込みモデル BAAI/bge-small-en-v1.5 は、Hugging Face上で言語タグがenの英語用モデルです。検証では、旧版記事からコード・HTMLタグ・空白を除いた先頭1,000字と、AIKitを説明する英文を反復した1,000字を使用しました。tokenizers 0.22.2で特殊トークンを付加せずに計数した結果が次の表です。

標準モデルのトークン数は日本語912、英語197で、約4.6倍でした（英語側は同じ説明文の反復なので、言語一般の比率ではありません）。日本語側の912トークンのうち191個が[UNK]で、そのうち188個は語彙にない漢字1文字でした。異なる漢字が同じ[UNK]にまとめられるため、その部分の区別は埋め込みに残りません。検索品質への影響は、実際の質問と正解文書を用意して評価する必要があります。

CHUNK_SIZE=450 は、今回の日本語サンプルの平均比率では約493字相当です。ただし、実際のチャンクの文字数は文書の内容によって変わります。日本語の社内文書を検索させるなら、標準構成のまま評価しても実力は測れません。vLLM 0.28.0のドキュメントには多言語の BAAI/bge-m3（Hugging Faceの説明では100以上の言語、最大8192トークン）と BAAI/bge-reranker-v2-m3 が対応モデルとして載っているので、これらに差し替えて評価してください。

差し替えるときは、Open WebUI側の RAG_EMBEDDING_MODEL と RAG_TOKENIZER_MODEL を同じモデルに揃え、埋め込みサーバーもそのモデルで起動し直します。既存文書を登録済みの場合は、Open WebUIの管理画面からナレッジベースを再インデックスし、新しいモデルで埋め込みを作り直します。また、ENABLE_PERSISTENT_CONFIG=False を外していると、初回起動時に保存された設定がComposeの環境変数より優先され、書き換えても反映されません。

採用判断：Razer AIKitを選ぶ場面・見送る場面

AIKitが向いているのは、NVIDIA GPUのLinuxマシンかWSL 2で、推論・LoRA学習・監視・複数GPUへの分散を1つのイメージで一通り試したい場合です。vLLM、LlamaFactory、Ray、Grafanaを個別に入れてCUDAとPyTorchの版を合わせる作業がなくなるのが、いちばんの価値です。検証環境を短時間で立てて、チームで同じ構成を共有する用途に合います。

一方、次の条件に当てはまるなら見送ります。

• Apple SiliconのMacで動かしたい：要件はNVIDIA GPUのみです。MacならMLXとは？Apple SiliconでLLMを動かすmlx-lmの導入手順と採用判断のようなApple Silicon向けの実装を選びます。
• 本番環境の推論基盤にしたい：全版がPreviewで、READMEも機能が変わりうると断っています。v0.1.0のCUDA 12.9・PyTorch 2.8.0が、v0.7.0ではCUDA 13.0・PyTorch 2.13.0になるなど、同梱する基盤の版が毎月動いています。本番ではvLLMを直接、版を固定して運用するほうが管理しやすくなります。
• 1台のPCでモデルと会話できれば十分：イメージだけで圧縮時9GBを超え、DockerとNVIDIA Container Toolkitの準備も要ります。Windowsで手軽に動かすだけなら、Foundry Localのような単機能のランタイムのほうが軽く済みます。
• 日本語RAGを標準構成のまま使いたい：前章のとおり、モデルの差し替えが前提です。

使う場合も latest タグで追いかけるのは避け、cuda13.0-torch2.13.0-vllm0.28.0-aikit0.7.0 のように版付きのタグで固定し、リリースノートを読んでから上げる運用にします。

よくある質問

Razer AIKitの最新バージョンはいくつですか？

2026年10月時点ではv0.7.0（2026年9月11日公開）が最新で、同梱vLLMは0.28.0です。最新の版はGitHubのReleasesページか、Docker Hubの razerofficial/aikit のタグ一覧で確認できます。

Razer製のPCやGPUがないと使えませんか？

Razer製以外のPCでも使えますが、NVIDIA GPUは必要です。READMEの要件はCompute Capability 7.0以上ですが、同梱のCUDA 13.0はTuring以降が対象なので、RTX 20シリーズ以降が目安です。READMEにはRazer Bladeのほか、NVIDIAのRTXワークステーション、DGX、データセンター向けGPUも載っています。Razer製品であることを条件にする記述はありません。

料金はかかりますか？ライセンスは？

Apache License 2.0のオープンソースで、AIKit自体は無料です。動かすモデルにはそれぞれのライセンスがあるので、商用で使う場合はモデル側の条件を個別に確認してください。

Windowsで使えますか？

Windows 11のWSL 2上で動きます。Ubuntu 24.04を入れ、ネットワークをミラーモードにし、Docker EngineとNVIDIA Container ToolkitをWSLの中に入れるのが公式手順です。ポート8000に接続できない既知の問題があるので、回避策も合わせて確認してください。

ローカルでLLMのファインチューニングもできますか？

できます。同梱のLlamaFactoryで llamafactory-cli train を実行してLoRAアダプタを学習し、rzr-aikit model run --enable-lora で配信します。複数台のマシンにまたがる分散学習は、Rayクラスタを組んで USE_RAY=1 を設定します。

関連記事

• vLLMとは？PagedAttentionの仕組み・使い方とOllama・TensorRT-LLMとの違いを実装者目線で解説
• Rayとは？分散処理フレームワークの仕組みと採用判断を実装目線で解説【2026年版】
• QLoRAとは？4bit量子化＋LoRAの仕組み・VRAM目安・実装手順と採用判断を解説【2026年版】
• nvidia-smiの使い方｜GPU使用率とメモリの見方・CSV記録・DCGMへの移行判断
• MLXとは？Apple SiliconでLLMを動かすmlx-lmの導入手順と採用判断