--- title: "Razer AIKitとは？最新版v0.7.0の機能・導入手順・対応GPUと採用判断" url: "https://www.issoh.co.jp/tech/details/10831/" published: 2026-02-03 updated: 2026-10-05 categories: ["LLM・RAG"] publisher: "株式会社一創" --- # Razer AIKitとは？最新版v0.7.0の機能・導入手順・対応GPUと採用判断 **Razer AIKit**は、Razerが2026年1月のCESで発表し、GitHubでApache-2.0として公開しているローカルLLM開発環境です。推論エンジンのvLLM、ファインチューニングのLlamaFactory、分散処理のRayを1つのDockerイメージに収め、NVIDIA GPUを積んだPCやワークステーションで推論・LoRA学習・複数GPUへのスケールを試せます。2026年10月時点の最新版は**v0.7.0**（2026年9月11日公開）で、現在もPreview扱いです。この記事では、v0.1.0からの変更点、対応GPU、WSL2を含む導入手順、使い始めでつまずく箇所、採用を見送るべき条件までをまとめます。 ## まとめ：Razer AIKitの最新バージョンと導入判断の要点 - 最新版はv0.7.0（2026年9月11日）。同梱vLLMは0.28.0、イメージはCUDA 13.0・PyTorch 2.13.0。v0.1.0（2025年12月）からほぼ月1回のペースで版が上がっています。 - v0.7.0でRAGパイプライン、v0.6.0で音声エージェント、v0.5.0で動画生成UI、v0.4.0で音声生成UI、v0.3.0で画像生成とArm64対応が加わりました。v0.2.0の目玉はGrafana監視とOpen WebUIでした。 - 必要なのはNVIDIA GPUです。READMEはCompute Capability 7.0以上としていますが、同梱のCUDA 13.0が対象とするのはTuring（7.5）以降で、V100などのVoltaは外れています。OSはWindows 11のWSL 2か、Ubuntu 22.04／24.04です。Razer製のPCでなくても動きます。 - 導入はNVIDIAドライバ、Docker Engine、NVIDIA Container Toolkitを入れたうえで `docker run ... razerofficial/aikit:latest` を実行するだけです。監視込みの構成はDocker Composeで立ち上げます。 - 標準のRAG構成は英語用の埋め込みモデルなので、日本語文書が中心ならモデルの差し替えが前提です。Apple SiliconやAMD GPUの環境、安定版を求める本番用途には向きません。 以下、構成、リリース履歴、要件、導入手順、使い方の順に説明します。 ## Razer AIKitの構成：vLLM・LlamaFactory・Rayを束ねたDockerイメージ AIKitの実体は、OSSを組み合わせたDockerイメージと、それを操作する `rzr-aikit` コマンドです。Razerは独自の推論エンジンを作ったわけではなく、vLLMで推論し、LlamaFactoryでLoRA学習を行い、Rayで複数GPU・複数マシンへ処理を分ける構成をまとめて配っています。READMEは自らを「Open-source AI development environment」と説明し、ページ冒頭に「Preview Release」の警告を置いています。 | 構成要素 | 役割 | v0.7.0時点の版 | | ------------- | ---------------------- | ----------- | | rzr-aikit CLI | モデルの取得・起動・停止、クラスタ操作 | 0.7.0 | | vLLM | LLM推論サーバー（OpenAI互換API） | 0.28.0 | | vLLM-Omni | 画像・音声・動画モデルの推論 | 0.28.0 | | LlamaFactory | LoRAなどのファインチューニング | 同梱（版は非公表） | | Ray | 複数GPU・複数マシンへの分散 | 同梱（版は非公表） | | PyTorch／CUDA | 実行基盤 | 2.13.0／13.0 | vLLMとPyTorchの版は[Docker Hub](https://hub.docker.com/r/razerofficial/aikit/tags)のタグ名 `cuda13.0-torch2.13.0-vllm0.28.0-aikit0.7.0` から読み取れます。初版v0.1.0のリリースノートにはLlamaFactory 0.9.4とRay 2.50.1が明記されていましたが、v0.2.0以降のノートにはこの2つの版がありません。vLLM単体の仕組みは[vLLMとは？PagedAttentionの仕組み・使い方とOllama・TensorRT-LLMとの違い](/tech/details/15786/)で解説しています。 ## リリース履歴：v0.1.0からv0.7.0までの変更点 [GitHubのReleases](https://github.com/razerofficial/aikit/releases)には7つの版が並んでいます。どの版も名前に「Preview」が付いており、安定版はまだありません。同梱vLLMは複数回更新されており、v0.7.0では0.28.0です。 | 版 | 公開日 | 主な追加 | 同梱vLLM | | ------ | ---------- | --------------------------------- | ------ | | v0.7.0 | 2026-09-11 | RAGパイプライン（ChromaDB・リランク） | 0.28.0 | | v0.6.0 | 2026-08-05 | 音声エージェント（STT・LLM・TTS） | 0.24.0 | | v0.5.0 | 2026-06-30 | 動画生成Web UI | 0.22.0 | | v0.4.0 | 2026-05-28 | 音声生成Web UI | 0.20.0 | | v0.3.0 | 2026-03-06 | 画像生成UI、オムニモーダル、Arm64 | 0.14.1 | | v0.2.0 | 2026-01-29 | Grafana監視、Open WebUI、GPU Ordering | 0.14.1 | | v0.1.0 | 2025-12-09 | 初版（推論・LoRA・Rayクラスタ） | 0.11.1 | v0.3.0のGitHubタグは `v0.3.2` です。Docker Hubには、2026年4月27日に出た `aikit0.3.2`（vLLM 0.18.0・CUDA 13.0）というイメージもあります。リリースノートとイメージで版の表記が揃っていないので、手元の構成を確かめるときはDocker Hubのタグ名を見るのが確実です。 ### v0.2.0の追加機能：Grafana監視とGPU Ordering v0.2.0では、Grafanaの監視ダッシュボードとOpen WebUIのチャット画面が追加されました。ダッシュボードにはトークン毎秒、TTFT（最初のトークンが出るまでの時間）、RPS（毎秒リクエスト数）とGPUの指標が表示されます。同じ版で入ったGPU Ordering（Preview）は、性能の違うGPUを混在させたときにGPUの実行順を明示し、遅いGPUが全体の足を引っ張らないようにする機能です。単体マシンでもRayクラスタでも使えます。リリースノートによると、vLLM 0.14.1への更新でMoEモデルのTTFTが最大10.8%改善し、コンテナイメージは24.3%小さくなりました。 ### v0.3.0〜v0.6.0：画像・音声・動画への拡張 v0.3.0でvLLM-Omniが加わり、テキスト以外のモデルも動かせるようになりました。画像生成（Tongyi-MAI/Z-Image-Turboやblack-forest-labs/FLUX.2-klein-4B）、動画生成、音声認識、音声合成が対象です。同じ版でArm64にも対応し、NVIDIA GB10（DGX Spark）でも動くようになりました。生成用の画面は `rzr-aikit ui run` で起動するGradioのWeb UIで、既定のポートは7860です。v0.4.0で音声生成、v0.5.0で動画生成の画面が加わりました。v0.6.0では、音声認識・LLM・音声合成をノートPCの中だけでつなぐ `voice_agent` サブモジュールが入り、Realtime API互換のクライアントから接続できるようになっています。 ### v0.7.0の新機能：ローカルRAGパイプライン 最新のv0.7.0では、手元の文書を検索して回答させるRAGがローカルで完結します。公式ガイド（docs/rag.md）の構成では3つのモデルを別ポートで同時に立て、Open WebUIのナレッジ機能から呼び出します。 | ポート | 標準モデル | 役割 | | ---- | ---------------------- | --------------------- | | 8000 | BAAI/bge-small-en-v1.5 | 埋め込み（384次元・512トークン上限） | | 8001 | Qwen/Qwen3.5-4B | 回答生成 | | 8002 | BAAI/bge-reranker-base | リランク | ベクトルDBはChromaDBで、BM25とのハイブリッド検索が有効になっています。分割単位は埋め込みモデルのトークンで数えて `CHUNK_SIZE=450` です。3つのモデルの `--gpu-memory-utilization`（0.1、0.7、0.1）の合計が1.0未満になるように決められているので、1枚のGPUに同居させるときはこの合計を崩さないようにします。日本語文書で使うときの注意点は後述の「既知の問題」の章で扱います。 ## 対応GPUと動作要件：READMEの記載と同梱CUDAの対応範囲 READMEとdocs/gpu-compatibility.mdにはCompute Capability 7.0以上のNVIDIA GPUとあります。ただし、CUDA 13.0ではVoltaのライブラリ対応が終了しており、この記載だけで現行イメージの互換性は判断できません。以下はGPU世代とCompute Capabilityの対応表であり、掲載GPUすべての動作を保証するものではありません。AMD GPUやApple Siliconは記載がありません。 | Compute Capability | 世代 | 代表的なGPU | | ------------------ | ------------ | -------------------------------- | | 12.0／12.1 | Blackwell | GeForce RTX 50、RTX PRO 6000、GB10 | | 10.0／10.3 | Blackwell | B200、GB200、B300、GB300 | | 9.0 | Hopper | H100、H200、GH200 | | 8.9 | Ada Lovelace | GeForce RTX 40、L4、L40S | | 8.0／8.6 | Ampere | A100、GeForce RTX 30 | | 7.5 | Turing | GeForce RTX 20、T4 | | 7.0 | Volta | V100、Titan V（CUDA 13.0は対象外） | 手元のGPUの値は次のコマンドで確認できます。GPU使用率やメモリの見方は[nvidia-smiの使い方｜GPU使用率とメモリの見方・CSV記録・DCGMへの移行判断](/tech/details/17936/)にまとめています。 ``` nvidia-smi --query-gpu=name,compute_cap --format=csv ``` [Setup Guide](https://github.com/razerofficial/aikit/blob/main/docs/setup.md)が示す最小要件は、RAM 8GB（16GB以上推奨）、空きストレージ50GBです。推奨はRAM 32GB以上、VRAM 8GB以上のGPU（RTX 3080やRTX 4070以上）、モデル置き場として200GB以上のSSDです。v0.7.0のイメージはDocker Hub上の圧縮サイズでamd64版が約9.4GB、arm64版が約11.3GBあり、モデルの重みはこれとは別にHugging Faceのキャッシュへ溜まっていきます。50GBは最低ラインと考えておくのが安全です。 ### Razer製ハードウェアとの関係：BladeとForge AI Dev Workstation READMEの対応プラットフォームには、Razer Blade（GeForce RTX 20〜50シリーズ搭載機）と並んで、NVIDIA RTXワークステーション、DGXシステム、データセンター向けGPUが載っています。Razer製のPCでなくても動き、ライセンス上の制約もありません。 AIKitと同じ2026年1月6日には、Razerがデスクトップ機のForge AI Dev Workstationを発表しています。[RazerのNewsroom](https://www.razer.com/newsroom/product-news/razer-forge-ai-dev-workstation)によると、NVIDIA RTX PRO 6000 Blackwellなどのプロ向けGPUを複数枚、AMD Ryzen Threadripper PROかIntel Xeon Wを搭載でき、DDR5 RDIMMは8枚、10ギガビットのEthernetを2ポート備えます。価格はこの発表には書かれていません。複数GPU構成でAIKitのRayクラスタを試す土台にはなりますが、AIKitを使うための必須機材ではありません。 ## 導入手順：WSL2・Docker・NVIDIA Container Toolkitからの起動 AIKitはコンテナ内で動くので、ホスト側に必要なのはNVIDIAドライバ、Docker Engine、NVIDIA Container Toolkitの3つです。WindowsではNVIDIAドライバをWindows側に、Docker EngineとNVIDIA Container ToolkitをWSL 2のUbuntu側に入れます。WSL内にLinux用NVIDIAドライバを入れてはいけません。 ### Windows 11の前提設定：WSL 2のミラーモードとファイアウォール Windowsで起動するときに公式手順が指定している設定は次の4つです。 - NVIDIA AppからGPUドライバを入れ、安定性を優先してStudio Driverを選ぶ - `wsl --install -d Ubuntu-24.04` でUbuntu 24.04を入れる - WSL Settingsの「Networking」でネットワークモードをMirroredにする（`.wslconfig` に `networkingMode=mirrored` と書いてもよい） - 管理者権限のPowerShellで、WSLへの着信を許可するファイアウォール設定を入れる ``` Set-NetFirewallHyperVVMSetting -Name '{40E0AC32-46A5-438A-A0B2-2B479E8F2E90}' -DefaultInboundAction Allow ``` このコマンドは、WSLへの着信をすべて通す設定です。社用PCでは情報システム部門のポリシーとぶつかる可能性があるので、適用する前に確認してください。 ### Ubuntu 22.04／24.04の前提設定 UbuntuではDocker Engineを公式リポジトリから入れ、NVIDIAドライバは「ソフトウェアとアップデート」の「追加のドライバー」タブから入れます。続けてNVIDIA公式の[インストールガイド](https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html)に従い、Container Toolkit用APTリポジトリと署名鍵を登録して、パッケージ一覧を更新します。その後、以下のコマンドでToolkitを入れ、Dockerのランタイムに登録します。 ``` sudo apt-get install -y nvidia-container-toolkit sudo nvidia-ctk runtime configure --runtime=docker sudo systemctl restart docker docker run --rm --gpus all hello-world ``` 最後の `docker run --rm --gpus all hello-world` はコンテナ起動の確認です。GPUの認識は、追加で `sudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi` を実行し、GPU情報が表示されることを確認します。 ### docker runによる最小構成の起動 前提が揃ったら、Hugging Faceのアクセストークンを渡してコンテナを起動します。Llama系などの利用規約への同意が必要なモデルは、トークンがないとダウンロードできません。キャッシュディレクトリをホストにマウントしておけば、コンテナを作り直してもモデルを取り直さずに済みます。 ``` mkdir -p $HOME/.cache/huggingface docker run -it \ --restart=unless-stopped \ --gpus all \ --ipc host \ --network host \ --mount type=bind,source=$HOME/.cache/huggingface,target=/var/aikit/.cache/huggingface \ --env HUGGING_FACE_HUB_TOKEN= \ razerofficial/aikit:latest ``` コンテナに入ったら、`jupyter lab --ip="0.0.0.0"` でJupyterLabを開いてノートブックの手順に沿って進めるか、`rzr-aikit model run` でモデルを直接起動します。リポジトリのnotebooks/には、端末内推論、分散推論、画像・音声・動画生成、LoRA学習、OpenAI API連携、セマンティック検索、音声エージェント、RAGのノートブックが番号順に並んでいます。 ### Docker Composeによる監視込みの構成 監視とチャット画面まで使うなら、リポジトリをcloneしてComposeで立ち上げます。 ``` git clone https://github.com/razerofficial/aikit.git && cd aikit export HUGGING_FACE_HUB_TOKEN= docker compose -f docker_compose/docker-compose.yaml up -d --pull always ``` | サービス | URL | 用途 | | ---------- | -------------- | ------------- | | JupyterLab | localhost:8888 | ノートブック | | Grafana | localhost:3000 | GPU・推論・Rayの指標 | | Open WebUI | localhost:1919 | チャット・RAG | | Prometheus | localhost:9090 | 指標の収集 | Composeファイルでは、GrafanaとPrometheusが `latest`、Open WebUIが `main` タグで指定されています。`--pull always` を付けると起動のたびに別の版を取ってくる可能性があるので、再現性が必要な検証環境ではタグを固定してください。PrometheusのexporterやPromQLの設計は[Prometheusで監視を構築する手順｜exporter設計・PromQL・保持期間の見積り](/tech/details/17516/)で扱っています。 ## rzr-aikitコマンドの使い方：モデルの実行・生成・停止 `rzr-aikit` のサブコマンドは `model`、`cluster`、`ui`、`metrics` の4系統です。日常的に使うのは `model` 系です。 ``` rzr-aikit model download Qwen/Qwen3.5-0.8B # Hugging Faceから取得 rzr-aikit model list # キャッシュ済みモデルと実行可否 rzr-aikit model run Qwen/Qwen3.5-0.8B --max-model-len 4096 rzr-aikit model generate "Explain quantum computing" --max-tokens 512 rzr-aikit metrics # TTFT・スループット・GPU使用率 rzr-aikit model stop # vLLMサーバーをすべて停止 ``` `model list` はキャッシュ済みのモデルごとに、空きGPUメモリで動かせるかを3段階で表示します。そのまま動くものは「Yes」、4bit量子化なら動くものは「Limited」、メモリ不足なら「No」です。`model run` はモデル名のあとに書いた引数をそのまま `vllm serve` へ渡すので、`--max-model-len` や `--quantization bitsandbytes` などvLLMのオプションがそのまま使えます。 起動したサーバーはOpenAI互換APIをポート8000で待ち受けます。OpenAI互換の対応APIを使うコードは、接続先URLとmodelをローカルサーバーの設定に合わせて変更します。認証を設定している場合はAPIキーも合わせ、利用するAPIや引数がvLLMで対応しているか確認します。 ``` curl http://localhost:8000/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{"model": "Qwen/Qwen3.5-0.8B", "messages": [{"role": "user", "content": "こんにちは"}]}' ``` ## LoRAファインチューニングとRayによる分散実行 ### llamafactory-cliによるLoRA学習とアダプタの配信 学習はコンテナ内の `llamafactory-cli train` で行います。公式ガイドが例に使っているのはQwen/Qwen2.5-0.5B-Instructとalpaca-gpt4データセットの組み合わせで、データセットは `dataset_info.json` に定義し、`--dataset_dir` で場所を指定します。`--lora_rank` の典型値は8〜16、`--lora_alpha` はランクの1〜2倍、学習率は1e-4〜5e-4がガイドの目安です。LlamaFactory自体はQLoRA、DoRA、フルパラメータ学習にも対応しています。VRAMが足りない場合の選択肢は[QLoRAとは？4bit量子化＋LoRAの仕組み・VRAM目安・実装手順と採用判断](/tech/details/15944/)を参照してください。 学習したアダプタは、vLLMのLoRA配信機能でベースモデルに重ねて配信します。 ``` rzr-aikit model run Qwen/Qwen2.5-0.5B-Instruct \ --enable-lora \ --lora-modules alpaca=~/fine-tuning/adapters/lora_alpaca_gpt4 rzr-aikit model generate --model alpaca "Your prompt here" ``` `--model` にアダプタ名を指定するとLoRA適用後のモデルで、ベースモデル名を指定すると素のモデルで生成します。複数のアダプタを同時に載せるときは `--max-loras` を増やします。既定値は1です。 ### Rayクラスタによる複数マシンへの分散 複数台のマシンにまたがって推論・学習するときは、1台を親ノード、残りを子ノードにしてRayクラスタを組みます。 ``` # 親ノード（NICの名前は環境に合わせる。既定はeth0） rzr-aikit cluster run --ifname enp130s0 # 子ノード（親のIPとRayのポート6379を指定） rzr-aikit cluster join --ifname enp130s0 --address 192.168.1.100:6379 rzr-aikit cluster status ``` 分散学習には3つの条件があります。環境変数 `USE_RAY=1` を設定すること、Ray関連の設定（`ray_num_workers` など）をYAMLファイルに書くこと、データセットと出力先を全ノードから見える共有ストレージに置くことです。`--ifname` を実際のNIC名に合わせないと、NCCLが通信に使うインターフェースを誤り、ノード間通信で止まります。Rayそのものの仕組みは[Rayとは？分散処理フレームワークの仕組みと採用判断](/tech/details/16080/)で解説しています。 ## つまずきやすい既知の問題と回避策 公式の[Known Issues](https://github.com/razerofficial/aikit/blob/main/docs/known-issues.md)と[RAGガイド](https://github.com/razerofficial/aikit/blob/main/docs/rag.md)のトラブルシューティング表には、Windowsのメモリ不足、WSL 2の接続不良、GB10でのクラッシュなどの報告と回避策が載っています。 ### WindowsでVRAMが10GB未満のときのメモリ不足 VRAMが10GB未満のWindows環境では、メモリ不足のエラーや極端な速度低下が起きます。`rzr-aikit model run <モデル名> --gpu-memory-utilization 0.8` のように、vLLMが確保するGPUメモリの割合を下げて起動します。値を下げるほどKVキャッシュに回せる領域が減るので、長い文脈を扱う用途では `--max-model-len` も合わせて下げます。 ### WSL2でポート8000に接続できない問題 `model run` は正常に終わったのに、`model generate` が止まる、またはポート8000に接続できない、という症状です。公式の回避策は、モデルの起動後に `python -m http.server --bind 0.0.0.0 8000` を一度実行することです。このコマンドは「ポートが使用中」というエラーで終わりますが、それで正常です。エラーが出たあとはvLLMのポートに届くようになります。WSL 2のネットワーク周りの癖なので、ミラーモードとファイアウォールの設定とあわせて確認します。 ### DGX Spark（GB10）でのクラッシュ SM 121のGB10では、vLLM 0.28.0が行列演算中に落ちる、推論が応答しないまま止まる、MLA（Multi-Latent Attention）を使うモデルでカーネルの起動に失敗する、といった問題が報告されています。コンテナの起動時に `VLLM_SKIP_DEEP_GEMM=1`、`VLLM_DISABLE_PLE=1`、`VLLM_FORCE_STANDARD_ATTENTION=1` の3つの環境変数を渡すのが公式の回避策です。性能への影響は多くの処理で0〜5%程度とされ、vLLMがSM 121に正式対応するまでの暫定措置という位置づけです。 ### 標準のRAG構成で日本語文書を扱うときの注意 v0.7.0のRAGが標準で使う埋め込みモデル `BAAI/bge-small-en-v1.5` は、Hugging Face上で言語タグがenの英語用モデルです。検証では、旧版記事からコード・HTMLタグ・空白を除いた先頭1,000字と、AIKitを説明する英文を反復した1,000字を使用しました。tokenizers 0.22.2で特殊トークンを付加せずに計数した結果が次の表です。 | トークナイザ | 日本語1,000字 | うち未知語\[UNK\] | 英語1,000字 | | --------------------- | --------- | ------------ | -------- | | bge-small-en-v1.5（標準） | 912 | 191 | 197 | | bge-m3（多言語） | 529 | 0 | 231 | 標準モデルのトークン数は日本語912、英語197で、約4.6倍でした（英語側は同じ説明文の反復なので、言語一般の比率ではありません）。日本語側の912トークンのうち191個が\[UNK\]で、そのうち188個は語彙にない漢字1文字でした。異なる漢字が同じ\[UNK\]にまとめられるため、その部分の区別は埋め込みに残りません。検索品質への影響は、実際の質問と正解文書を用意して評価する必要があります。 `CHUNK_SIZE=450` は、今回の日本語サンプルの平均比率では約493字相当です。ただし、実際のチャンクの文字数は文書の内容によって変わります。日本語の社内文書を検索させるなら、標準構成のまま評価しても実力は測れません。vLLM 0.28.0のドキュメントには多言語の `BAAI/bge-m3`（Hugging Faceの説明では100以上の言語、最大8192トークン）と `BAAI/bge-reranker-v2-m3` が対応モデルとして載っているので、これらに差し替えて評価してください。 差し替えるときは、Open WebUI側の `RAG_EMBEDDING_MODEL` と `RAG_TOKENIZER_MODEL` を同じモデルに揃え、埋め込みサーバーもそのモデルで起動し直します。既存文書を登録済みの場合は、Open WebUIの管理画面からナレッジベースを再インデックスし、新しいモデルで埋め込みを作り直します。また、`ENABLE_PERSISTENT_CONFIG=False` を外していると、初回起動時に保存された設定がComposeの環境変数より優先され、書き換えても反映されません。 ## 採用判断：Razer AIKitを選ぶ場面・見送る場面 AIKitが向いているのは、NVIDIA GPUのLinuxマシンかWSL 2で、推論・LoRA学習・監視・複数GPUへの分散を1つのイメージで一通り試したい場合です。vLLM、LlamaFactory、Ray、Grafanaを個別に入れてCUDAとPyTorchの版を合わせる作業がなくなるのが、いちばんの価値です。検証環境を短時間で立てて、チームで同じ構成を共有する用途に合います。 一方、次の条件に当てはまるなら見送ります。 - Apple SiliconのMacで動かしたい：要件はNVIDIA GPUのみです。Macなら[MLXとは？Apple SiliconでLLMを動かすmlx-lmの導入手順と採用判断](/tech/details/17956/)のようなApple Silicon向けの実装を選びます。 - 本番環境の推論基盤にしたい：全版がPreviewで、READMEも機能が変わりうると断っています。v0.1.0のCUDA 12.9・PyTorch 2.8.0が、v0.7.0ではCUDA 13.0・PyTorch 2.13.0になるなど、同梱する基盤の版が毎月動いています。本番ではvLLMを直接、版を固定して運用するほうが管理しやすくなります。 - 1台のPCでモデルと会話できれば十分：イメージだけで圧縮時9GBを超え、DockerとNVIDIA Container Toolkitの準備も要ります。Windowsで手軽に動かすだけなら、[Foundry Local](/tech/details/11773/)のような単機能のランタイムのほうが軽く済みます。 - 日本語RAGを標準構成のまま使いたい：前章のとおり、モデルの差し替えが前提です。 使う場合も `latest` タグで追いかけるのは避け、`cuda13.0-torch2.13.0-vllm0.28.0-aikit0.7.0` のように版付きのタグで固定し、リリースノートを読んでから上げる運用にします。 ## よくある質問 ### Razer AIKitの最新バージョンはいくつですか？ 2026年10月時点ではv0.7.0（2026年9月11日公開）が最新で、同梱vLLMは0.28.0です。最新の版はGitHubのReleasesページか、Docker Hubの `razerofficial/aikit` のタグ一覧で確認できます。 ### Razer製のPCやGPUがないと使えませんか？ Razer製以外のPCでも使えますが、NVIDIA GPUは必要です。READMEの要件はCompute Capability 7.0以上ですが、同梱のCUDA 13.0はTuring以降が対象なので、RTX 20シリーズ以降が目安です。READMEにはRazer Bladeのほか、NVIDIAのRTXワークステーション、DGX、データセンター向けGPUも載っています。Razer製品であることを条件にする記述はありません。 ### 料金はかかりますか？ライセンスは？ Apache License 2.0のオープンソースで、AIKit自体は無料です。動かすモデルにはそれぞれのライセンスがあるので、商用で使う場合はモデル側の条件を個別に確認してください。 ### Windowsで使えますか？ Windows 11のWSL 2上で動きます。Ubuntu 24.04を入れ、ネットワークをミラーモードにし、Docker EngineとNVIDIA Container ToolkitをWSLの中に入れるのが公式手順です。ポート8000に接続できない既知の問題があるので、回避策も合わせて確認してください。 ### ローカルでLLMのファインチューニングもできますか？ できます。同梱のLlamaFactoryで `llamafactory-cli train` を実行してLoRAアダプタを学習し、`rzr-aikit model run --enable-lora` で配信します。複数台のマシンにまたがる分散学習は、Rayクラスタを組んで `USE_RAY=1` を設定します。 ## 関連記事 - [vLLMとは？PagedAttentionの仕組み・使い方とOllama・TensorRT-LLMとの違いを実装者目線で解説](/tech/details/15786/) - [Rayとは？分散処理フレームワークの仕組みと採用判断を実装目線で解説【2026年版】](/tech/details/16080/) - [QLoRAとは？4bit量子化＋LoRAの仕組み・VRAM目安・実装手順と採用判断を解説【2026年版】](/tech/details/15944/) - [nvidia-smiの使い方｜GPU使用率とメモリの見方・CSV記録・DCGMへの移行判断](/tech/details/17936/) - [MLXとは？Apple SiliconでLLMを動かすmlx-lmの導入手順と採用判断](/tech/details/17956/) --- 出典: [Razer AIKitとは？最新版v0.7.0の機能・導入手順・対応GPUと採用判断]()（株式会社一創）