LLM・RAG

DeepSeek-V3とは?671B MoEの仕組みと性能分析、公式API終了後の使い方

DeepSeek-V3とは?671B MoEの仕組みと性能分析、公式API終了後の使い方

DeepSeek-V3は、中国のDeepSeekが2024年12月に公開した大規模言語モデルです。総パラメータ671Bのうち、1トークンの処理で動くのは37Bだけという Mixture-of-Experts(MoE)構成で、当時の主要な商用モデルに並ぶ精度を公開重みで実現しました。本記事では技術報告と公式READMEをもとに、何が新しかったのか、ベンチマークの数字をどう読むべきかを分析し、公式APIから外れた今どこで動かせるかまで整理します。扱うのは2024年12月版のV3そのものです。DeepSeekの現行世代はV4系に移っており、最新版の仕様と料金はDeepSeek V4とは?最新V4.1-FlashとV4-Pro-0813の違い、CSA・CSA2の仕組みと料金で扱っています。

まとめ:DeepSeek-V3の要点

  • 総パラメータ671B、トークンあたり活性37BのMoE型LLM。コンテキスト長は128Kで、14.8Tトークンを事前学習している。
  • 公式APIでは2024年12月26日に deepseek-chat がV3へ切り替わったが、2025年3月24日のV3-0324以降は中身が差し替わり、名前自体も2026年7月24日に廃止された。2026年11月4日時点の公式APIとWebチャットに、初版V3を呼ぶ手段は無い。
  • 初版V3は、OpenRouter経由のDeepInfraなど第三者のAPIで今も呼べる。ただしDeepInfraの提供はFP4量子化で、StreamLakeはOpenRouter上で量子化形式が示されていない。公式のFP8重みと同等の評価結果になる保証は無い。
  • 学習コスト5.576百万ドルは、H800を1時間2ドルで借りた場合の仮定値で、事前研究とアブレーション実験の費用を含まない。
  • DeepSeek-R1はV3と共通のDeepSeek-V3-Baseを土台にした別モデル。重みのライセンスはV3がDeepSeek独自契約、R1がMITと異なる。
  • DeepSeek社の公式サービスに入れたデータは中国のサーバーに保存され、中国の法令が適用される(個人情報保護委員会の情報提供)。自前ホストや第三者のAPIでは保存先が変わる。

DeepSeek-V3の基本仕様と公開時期

以下は公式リポジトリのREADME、Hugging Faceのモデルカード、技術報告arXiv:2412.19437から拾った値です。

項目 内容
開発元 DeepSeek(中国)
モデル形式 Mixture-of-Experts(MoE)
総パラメータ 671B
トークンあたり活性パラメータ 37B
コンテキスト長 128K
事前学習トークン数 14.8T
学習計算量 2,788K H800 GPU時間
重みの精度 FP8(BF16への変換スクリプトを同梱)
Hugging Face公開 deepseek-ai/DeepSeek-V3(2024年12月25日作成)
公式APIへの投入 2024年12月26日
技術報告 arXiv:2412.19437(2024年12月27日投稿、2025年2月18日にv2)
コードのライセンス MIT
重みのライセンス DEEPSEEK LICENSE AGREEMENT Version 1.0

Hugging Face上の合計が685Bと書かれている資料がありますが、これは本体671Bに Multi-Token Prediction モジュールの14Bを足した数です。公式READMEも「The total size of DeepSeek-V3 models on Hugging Face is 685B, which includes 671B of the Main Model weights and 14B of the Multi-Token Prediction (MTP) Module weights.」と注記しています。推論で常時使うのは本体なので、モデル規模は671Bで語るのが正確です。

671B MoEを成立させた4つの設計

V3は総パラメータ671Bのうち、各トークンで37Bを活性化する設計です。ただし、実際の計算量や処理時間にはアテンション処理やGPU間通信も影響します。技術報告をもとに、本記事では設計上の特徴を次の4点に整理します。

MLA:KVキャッシュを圧縮するアテンション

Multi-head Latent Attention(MLA)は、キーとバリューを低次元の潜在ベクトルに落としてから保持する方式です。長い文脈ほど推論時のKVキャッシュがメモリを圧迫しますが、MLAはここを削ることで128Kの文脈長を現実的なコストに収めます。V3の独自発明ではなく、前世代のDeepSeek-V2で検証済みの構造を引き継いでいます。

DeepSeekMoEと補助損失フリーの負荷分散

MoEでは特定のエキスパートに入力が偏ると学習が不安定になります。従来は偏りを罰する補助損失で均していましたが、この補助損失自体が精度を削る副作用がありました。V3は主な負荷分散をルーティングのバイアス調整で行います。技術報告の表現では「we pioneer an auxiliary-loss-free strategy for load balancing, which minimizes the performance degradation that arises from encouraging load balancing」です。

ただし補助損失を全廃したわけではありません。同じ技術報告は「Although DeepSeek-V3 mainly relies on the auxiliary-loss-free strategy for load balance, to prevent extreme imbalance within any single sequence, we also employ a complementary sequence-wise balance loss」と書き、シーケンス単位の偏りを抑える補助損失を係数を絞って併用しています。バッチ単位の偏りはルーティング側、シーケンス単位の偏りは損失側で抑える役割分担です。

MTPによる複数トークン予測と推論への応用

学習時に次の1トークンだけでなく複数トークン先も予測させる目的関数です。学習信号が密になるぶん精度が上がり、推論側では投機的デコードの下地にもなります。重みは本体とは別に14Bぶん配布されており、推論エンジン側の対応は公開当初コミュニティ任せでした。仕組みと推論での使い方はMTP(Multi-Token Prediction)とは?LLMの複数トークン予測の仕組みと投機的デコーディングでの使い方で詳しく扱っています。

FP8混合精度学習による計算・メモリ負担の削減

V3は超大規模モデルでFP8学習が実用になることを示した例です。技術報告は「We design an FP8 mixed precision training framework and, for the first time, validate the feasibility and effectiveness of FP8 training on an extremely large-scale model.」と書いています。配布重みもFP8のままで、BF16が必要なら同梱の fp8_cast_bf16.py で変換します。FP8とBF16・FP4の数値形式の違いはFP8とは?FP16・BF16・FP4との違いとE4M3/E5M2の仕組み、対応GPU【2026年版】にまとめています。

ベンチマークで見る性能と、比較対象の前提

公式READMEのチャットモデル比較から、強弱の分かれる項目を抜き出します。評価は出力長を8Kに制限した条件です。

ベンチマーク DeepSeek-V3 GPT-4o 0513 Claude-3.5-Sonnet-1022 Llama3.1 405B-Inst.
MMLU (EM) 88.5 87.2 88.3 88.6
MMLU-Pro (EM) 75.9 72.6 78.0 73.3
GPQA-Diamond (Pass@1) 59.1 49.9 65.0 51.1
MATH-500 (EM) 90.2 74.6 78.3 73.8
AIME 2024 (Pass@1) 39.2 9.3 16.0 23.3
Codeforces (Percentile) 51.6 23.6 20.3 25.3
SWE Verified (Resolved) 42.0 38.8 50.8 24.5
SimpleQA (Correct) 24.9 38.2 28.4 17.1

差が際立つのは数学とコンテスト系コーディングです。MATH-500で90.2、AIME 2024で39.2、Codeforcesのパーセンタイルで51.6と、比較対象を大きく引き離しました。一方、英語の短文事実質問を測るSimpleQAはGPT-4oの38.2に対して24.9、実リポジトリの課題解決を測るSWE VerifiedはClaude-3.5-Sonnetの50.8に対して42.0です。

これを「知識が弱い」と一般化すると誤ります。技術報告は「While it trails behind GPT-4o and Claude-Sonnet-3.5 in English factual knowledge (SimpleQA), it surpasses these models in Chinese factual knowledge (Chinese SimpleQA)」と書いており、中国語版のC-SimpleQAではV3の64.8がGPT-4oの59.3を上回ります。事実知識の強弱は言語で逆転するので、どの言語で測った数字かまで見てください。

比較対象が2024年末時点のモデルである点も前提です。「V3はGPT-4o級」という評価は2024年12月の相場の話で、2026年の商用モデルとの比較には使えません。

学習コスト5.576百万ドルが含んでいないもの

技術報告のTable 1が示す学習コストの内訳は次のとおりです。

段階 H800 GPU時間 金額換算
事前学習 2,664K 5.328百万ドル
文脈長拡張 119K 0.238百万ドル
事後学習 5K 0.01百万ドル
合計 2,788K 5.576百万ドル

この金額には2つの但し書きが要ります。1つ目は単価の仮定です。表の脚注は「assuming the rental price of H800 is $2 per GPU hour」と明記しており、DeepSeekが実際に支払った額ではなくレンタル単価を置いた換算値です。

2つ目のほうが重要です。技術報告は本文で「Note that the aforementioned costs include only the official training of DeepSeek-V3, excluding the costs associated with prior research and ablation experiments on architectures, algorithms, or data.」と断っています。5.576百万ドルは最終的な学習ランだけの数字で、アーキテクチャやデータの試行錯誤の費用は入っていません。この数字で自社の開発予算を見積もると、事前研究や失敗した学習ランの費用がまるごと抜け落ちます。

DeepSeek-V3とDeepSeek-R1の違い

V3とR1は、共通の基盤モデルから異なる事後学習で枝分かれした別モデルです。R1のREADMEは「DeepSeek-R1-Zero & DeepSeek-R1 are trained based on DeepSeek-V3-Base.」と書いています。総パラメータ671B、活性37B、コンテキスト長128Kという骨格は共通です。

違うのは学習の後半と用途です。R1-Zeroは教師ありファインチューニングを挟まず、ベースモデルにいきなり強化学習を当てて推論能力を引き出した実験系で、繰り返しや可読性の低下、言語の混在を抱えていました。それを直したものがR1です。V3は汎用の対話モデル、R1は思考過程を長く出す推論特化モデルという住み分けで、公式APIでもV3は deepseek-chat、R1は2025年1月20日から deepseek-reasoner に割り当てられていました。実務で効くのはライセンスの差で、R1はコードと重みの両方がMITです。V3の重みの扱いは次章で説明します。

公式APIから外れたDeepSeek-V3を、今動かす方法

公式APIのV3提供終了と現行モデル

DeepSeek API公式のModels & Pricingによると、2026年11月4日時点で公式APIが提供するモデルは deepseek-flash(DeepSeek-V4.1-Flash-1017)と deepseek-v4-pro(DeepSeek-V4-Pro-0813)の2本だけです。かつてV3を指していた deepseek-chat は、V3-0324、V3.1、V3.2と中身が差し替わり、2026年4月24日のV4公開時点ではV4-Flashを指していました。その後、deepseek-chat と deepseek-reasoner という名前自体が2026年7月24日に廃止されています。Change Logは2026年10月17日の更新で、公式のWebチャットとアプリもV4.1-Flash-1017に切り替えたと書いています。公式の窓口では、どこから入っても初版V3には届きません。

モデル名 実体 入力(キャッシュミス・オフピーク/ピーク) 出力(オフピーク/ピーク)
deepseek-flash DeepSeek-V4.1-Flash-1017 0.15/0.3ドル 0.6/1.2ドル
deepseek-v4-pro DeepSeek-V4-Pro-0813 0.66/1.32ドル 1.98/3.96ドル

単価は100万トークンあたりです。ピーク帯は月曜から金曜のUTC 01:00から04:00と06:00から10:00(日本時間の10〜13時と15〜19時)で、中国の祝日は除かれます。それ以外はオフピークで、ピーク価格の半額です。

OpenRouter・DeepInfra経由の初版V3呼び出し手順

公式から消えても、初版V3をAPIで呼ぶ道は残っています。OpenRouterのモデル一覧には2024年12月26日登録の deepseek/deepseek-chat(表示名DeepSeek: DeepSeek V3)があり、2026年11月4日時点ではDeepInfraとStreamLakeが提供元です。DeepInfraは自社APIでも deepseek-ai/DeepSeek-V3 を公開しています。どちらもOpenAI互換なので、OpenAIのPython SDKを利用できます。接続先に合わせてベースURL・APIキー・モデルIDを設定してください。

from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key="OPENROUTERのAPIキー",
)
res = client.chat.completions.create(
    model="deepseek/deepseek-chat",  # 初版V3。0324版は deepseek/deepseek-chat-v3-0324
    messages=[{"role": "user", "content": "MoEの負荷分散を3行で説明して"}],
)
print(res.choices[0].message.content)

DeepInfraへ直接つなぐ場合は、base_url を https://api.deepinfra.com/v1/openai、model を deepseek-ai/DeepSeek-V3 にし、api_key もDeepInfraで発行したAPIキーに変更します。

注意点は量子化です。DeepInfraのモデル情報APIは、このV3の量子化を fp4 と返します。公式の重みはFP8なので、数値の精度が一段落ちた状態で動いており、上のベンチマーク表の値がそのまま再現される保証はありません。料金も提供元ごとに違い、DeepInfraの単価は100万トークンあたり入力0.32ドル・出力0.89ドルです(2026年11月4日に同社APIで確認)。公式FP8重みの性能を検証するなら、自前ホストで重みと推論設定を固定してください。実際に利用する第三者APIの精度を判断するなら、その提供元で業務用の評価データを使って検証してください。

公開重みの入手先とGPUメモリ要件

Hugging Faceの deepseek-ai/DeepSeek-V3 は現在も公開されています。safetensorsのパラメータは約685Bで、大半がFP8(1パラメータ1バイト)のため、重みの実体は約689GBです。80GBのGPUに全量は載りません。量子化してCPUメモリへ逃がす構成なら話は別で、KTransformersの公開チュートリアルでは、Q4_K_M版の671Bモデルについて、単一CPUソケット構成でDRAM 382GB・VRAM最低14GBというメモリ消費条件が示されています。検証機のGPUは24GBで、必要メモリは文脈長などによって変わります。

以下は公式READMEの2ノード16GPU向け起動例です。依存関係の導入、デモ形式への重み変換、inferenceディレクトリへの移動、各ノードのRANKとマスターノードのADDRの設定が前提です。

torchrun --nnodes 2 --nproc-per-node 8 --node-rank $RANK --master-addr $ADDR \
  generate.py --ckpt-path /path/to/DeepSeek-V3-Demo \
  --config configs/config_671B.json --interactive --temperature 0.7 --max-new-tokens 200

READMEが挙げる推論スタックは、DeepSeek-Infer Demo、SGLang、LMDeploy、TensorRT-LLM、vLLM、LightLLMの6系統に加え、SGLang経由のAMD GPU対応と、MindIEによるHuawei Ascend NPU対応(BF16版)です。

V3とV3-0324のライセンスの相違

リポジトリのコードはMITですが、V3の重みに適用されるのは別ファイルの「DEEPSEEK LICENSE AGREEMENT Version 1.0」(2023年10月23日版)です。READMEは「This code repository is licensed under the MIT License. The use of DeepSeek-V3 Base/Chat models is subject to the Model License. DeepSeek-V3 series (including Base and Chat) supports commercial use.」と書いており、商用利用は認められています。ただしMITと同じ扱いではなく、契約が定める利用制限条項に従う必要があります。

一方、2025年3月24日公開の deepseek-ai/DeepSeek-V3-0324 はHugging Face上のライセンス表記がMITです。同じ「V3」でも初版と0324版でライセンスが違うので、社内で利用可否を判断するときは版のタグまで確認してください。R1もMITなので、DeepSeekのモデルを一括で「MITだから自由に使える」と扱うのは危険です。

業務で使う前に確認するデータの保存先

「DeepSeekはどこの国のモデルか」という問いの実務上の答えは、データがどこに置かれるかです。個人情報保護委員会事務局は2025年2月3日(3月5日更新)のDeepSeekに関する情報提供で、同社のプライバシーポリシーについて「DeepSeek社が取得した個人情報を含むデータは、中華人民共和国に所在するサーバに保存されること」と「当該データについては、中華人民共和国の法令が適用されること」の2点を挙げ、適用されうる法令として個人情報保護法・サイバーセキュリティ法・データセキュリティ法・国家情報法などを示しています。

この情報提供の対象は、DeepSeek社自身が提供するWebチャット・アプリ・APIです。モデルの重みを使う経路によって、データの行き先は変わります。

経路 データの行き先 確認すべきもの
DeepSeek公式のWeb・アプリ・API DeepSeek社(中国のサーバー) 同社プライバシーポリシー
OpenRouter・DeepInfra等のAPI 仲介事業者と提供元 各社のデータ保持・学習利用の規約
重みの自前ホスト 自社の管理環境 重みのライセンス条項

個人情報や機密を含む業務データを入れるなら、公式サービスを避け、自前ホストか、保持しない設定を選べる第三者のAPIに限るのが安全側の判断です。ただし第三者のAPIは、前述のとおり量子化の有無も提供元ごとに違います。社内向けの生成AI基盤をどの経路で組むかを整理したい場合は、生成AI導入支援で、モデル選定とデータの置き場所をまとめて検討できます。

V3から現行V4.1-Flash-1017までの版の推移

V3の位置づけを掴むには、その後の更新履歴を時系列で見るのが早道です。以下はDeepSeek API公式のChange Logの日付です。

日付 出来事
2024年12月26日 deepseek-chat がDeepSeek-V3へ
2025年1月20日 deepseek-reasoner がDeepSeek-R1へ
2025年3月24日 DeepSeek-V3-0324(重みはMIT)
2025年8月21日 DeepSeek-V3.1
2025年9月22日 DeepSeek-V3.1-Terminus
2025年9月29日 DeepSeek-V3.2-Exp
2025年12月1日 DeepSeek-V3.2
2026年4月24日 DeepSeek-V4(V4-Pro/V4-Flash)
2026年7月24日 deepseek-chat/deepseek-reasoner を廃止
2026年8月13日 DeepSeek-V4-Pro-0813
2026年8月21日 DeepSeek-V4-Flash-Vision-Exp
2026年9月10日 DeepSeek-V4.1-Flash
2026年10月17日 DeepSeek-V4.1-Flash-1017(Web・アプリも同版へ)

各世代の中身は個別に整理しています。思考モードの切り替えを入れた世代はDeepSeek-V3.1とは?思考モードの切替・Terminusとの違いと提供終了後の使い方、スパースアテンション(DSA)を入れた世代はDeepSeek-V3.2とは?V3.2-Speciale・DSAの仕組みと性能、2026年の使い方と料金が対応します。これから新規に採用を検討するなら、比較すべきはV3ではなく現行のV4系です。

よくある質問

DeepSeek-V3の料金はいくらですか?

公式APIにV3を指すモデル名は無く、V3固有の公式価格もありません(2026年11月4日時点)。初版V3を呼べるDeepInfraの単価は、100万トークンあたり入力0.32ドル・出力0.89ドルです。公式APIで使える後継の deepseek-flash は、オフピークで入力(キャッシュミス)0.15ドル・出力0.6ドルです。

DeepSeek-R1とV3の違いは何ですか?

R1はDeepSeek-V3-Baseを土台に、強化学習で推論力を伸ばした別モデルです。骨格は共通で、違うのは事後学習と用途、重みのライセンス(R1はMIT、V3はDeepSeek独自契約)です。

DeepSeek-V3はどこの国のモデルですか?

中国のDeepSeekが開発しました。同社の公式サービスに入れたデータは中国のサーバーに保存され、中国の法令が適用されます。重みを自前で動かせば、推論内容が同社のサーバーを経由することはありません。

DeepSeek-V3は商用利用できますか?

できます。公式READMEは「DeepSeek-V3 series (including Base and Chat) supports commercial use.」と明記しています。ただし適用されるのはMITではなくDEEPSEEK LICENSE AGREEMENT Version 1.0で、同契約の用途制限に従う必要があります。V3-0324はHugging Face上の表記がMITです。

DeepSeek-V3をGPU1枚で動かせますか?

FP8重みは約689GBあり、80GBクラスのGPU1枚に全量は載りません。4bit量子化とCPUメモリへのオフロードを組み合わせれば動きますが、KTransformersの条件でもDRAMが382GB要ります。その規模のメモリを用意できないなら、R1から蒸留された小型の密モデルが現実的です。

関連記事

お気に入りに入れた記事の一覧

一創の公式 SNS

X では毎朝の新着記事と IT ニュースの速報を、YouTube・TikTok・Instagram・LinkedIn・Facebook では記事の解説動画を配信しています。

この記事は以下の記事からリンクされています

資料請求

今日のトレンド記事 直近 24 時間で、いつもより多く読まれている記事

  1. 2026.11.13 テックブログ 宝くじ公式サイト不正アクセス:4,436名の対象確認とパスワード再設定、変更された仕組み
  2. 2026.11.13 テックブログ KARTEの不正アクセス:全機能停止で利用企業がタグ・配信・データ連携を確かめる手順
  3. 2026.10.21 テックブログ マネックス証券の不正アクセス:メールアドレス最大約113万件と本人確認画像1,592件の漏えいのおそれ、口座開設停止とPHP脆弱性との関係
  4. 2026.11.14 テックブログ ヤマダデンキの不正アクセス:リフォーム管理システム最大350万件と、住所・見積を持つ営業記録の守り方
  5. 2026.11.11 テックブログ Microsoft 2026年11月の月例更新:Outlookの悪用済みCVE-2026-124194と修正版の確認方法

RELATED POSTS 関連記事

目次