RAGは推論のたびに外部の文書を検索してプロンプトに足す方式、ファインチューニングは追加の学習でモデルの重みそのものを書き換える方式です。社内規程や製品情報のように変わる事実を答えさせるならRAG、決まった書式や語調で返させたいならファインチューニングを選びます。この記事では、両者の違いを研究結果の数値と料金表からの試算で比べ、2026年11月時点でファインチューニングを実際に選べる基盤まで整理します。
まとめ：RAGとファインチューニングの使い分けの結論
新しい事実を答えさせたいならRAGです。知識の注入を比べた研究では、学習データの締め切り後に起きた出来事を問う選択式の問題で、Mistral 7Bの正答率はRAGで0.875、ファインチューニングで0.504でした。出力の型や振る舞いを揃えたいならファインチューニングが効きます。どちらを選ぶ前にも、プロンプトの指示と実例で足りないかを先に試してください。
| 観点 | プロンプト設計 | RAG | ファインチューニング |
|---|---|---|---|
| 変えるもの | 指示と実例 | 推論時の入力 | モデルの重み |
| 得意な問題 | 指示の不足 | 知らない事実 | 出力の型・振る舞い |
| 知識の更新 | プロンプト修正 | 索引の差し替え | 再学習 |
| 回答の根拠 | 入力資料から提示可能 | 検索資料から提示可能 | 学習だけでは出典保証なし |
| 費用が増える所 | 入力トークン | 検索文脈の入力 | 学習とデータ作成 |
| OpenAI APIでの新規利用 | 可 | 可 | 不可 |
OpenAI APIのファインチューニングは2026年5月から新規の組織を受け付けておらず、既存の利用組織も2027年1月6日でジョブを作れなくなります。これから検討を始めるなら、ファインチューニングの候補はMicrosoft FoundryやGoogle Cloudなど別の基盤か、オープンウェイトのモデルを自分で学習する方法になります。
RAGとファインチューニングが変える場所の違い
RAGとファインチューニングの変更対象：入力と重み
RAGという名前は、Patrick Lewisらが2020年5月に投稿した論文「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」（arXiv:2005.11401）に由来します。論文はモデルの重みに蓄えた知識をパラメトリック記憶、外部に置いたWikipediaの密ベクトル索引をノンパラメトリック記憶と呼び、両者を組み合わせました。今日のRAGはこの構成を簡略化したもので、検索した文書をプロンプトに入れて生成させます。
この違いは運用に直結します。RAGでは就業規則の改定後、旧版を除外して索引を更新すれば、モデルを再学習せずに新しい内容を検索対象にできます。ファインチューニングでは、事実が変わるたびに学習データを直して再学習が要ります。どちらの方式でも、更新のあとに検索と回答の正確さを評価し直します。RAGの仕組みそのものはRAGとは？仕組みとLLM・ファインチューニングとの違い・企業での導入例を解説、ファインチューニングの定義と学習工程はファインチューニングとは？LLMの追加学習の仕組み・RAGとの違いと使い分けを解説で扱っています。
新しい事実の注入はRAGが上回るという研究結果
「社内の知識を覚えさせたいからファインチューニング」という判断は、研究結果と合いません。Microsoftの研究者によるOvadiaらの論文「Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs」（arXiv:2312.05934）は、2023年8〜11月の米国の出来事から作った910問の選択式問題で、モデルが学習していない事実をどちらの方法が身につけさせるかを比べました。
| モデル | 素のモデル | RAG | FT | FT（言い換え増量） | FT＋RAG |
|---|---|---|---|---|---|
| Mistral 7B | 0.481 | 0.875 | 0.504 | 0.588 | 0.810 |
| Llama2 7B | 0.353 | 0.585 | 0.219 | 0.392 | 0.326 |
| Orca2 7B | 0.456 | 0.876 | 0.511 | 0.566 | 0.820 |
数値は同論文の表2の正答率で、FT＋RAGは言い換えなしで学習したモデルにRAGを足した値です。RAGは3モデルとも最も高く、Mistral 7Bでは0.481から0.875へ上がりました。ファインチューニングは0.504で、素のモデルとほぼ変わりません。Llama2 7Bは0.353から0.219へ下がっています。Mistral 7Bでは、同じ事実を言い換えた文を増やして学習させると0.588まで上がりました。この実験の範囲では、学習文の言い換えを増やすことが教師なしファインチューニングの正答率を押し上げています。
この論文で比べたのは、文書をそのまま読ませる教師なしのファインチューニングです。質問と回答の組を学習させる教師ありファインチューニングとは条件が違います。この結果は、変わる事実を供給する方法としてRAGを先に評価する根拠になりますが、教師あり学習の効果や実務上の費用対効果まで結論づけるものではありません。
アイスランド語の文訂正で示されたファインチューニングの効果
逆の例もあります。OpenAIの精度最適化ガイドは、誤りを含むアイスランド語の文を直すタスクでBleuスコアを比べています。これは事実を知っているかではなく、決まったやり方で文を直せるかを問うタスクです。
| 手法 | Bleu |
|---|---|
| GPT-4 実例なし | 62 |
| GPT-4 実例3件（few-shot） | 70 |
| gpt-3.5-turbo を1,000件でFT | 78 |
| GPT-4 を1,000件でFT | 87 |
| FT済みGPT-4 ＋ RAG | 83 |
1,000件で学習させたgpt-3.5-turboは、実例を3件見せたGPT-4を8ポイント上回りました。一方、学習済みのGPT-4に別の1,000件を検索させて足すと、87から83へ4ポイント下がっています。ガイドはこの問題を、文脈ではなく振る舞いを直す問題だったと説明しています。振る舞いの問題にRAGを足しても効かず、かえって精度を落とすことがあります。
プロンプト設計・RAG・ファインチューニングの3択を判断する手順
OpenAIの精度最適化ガイドは、「プロンプト設計の次にRAG、その次にファインチューニング」という一直線の手順を否定しています。3つは別々の問題を解く手段なので、まず評価用の質問と期待する回答を用意し、プロンプトだけで試した結果から、何が足りないのかを見分けます。
| 評価で見えた症状 | 問題の種類 | 最初の打ち手 |
|---|---|---|
| 指示を守らない・抜けがある | 指示の不足 | プロンプト設計 |
| 社内の事実を知らない・古い | 文脈の不足 | RAG |
| 事実は合うが書式が揺れる | 振る舞いの不安定 | ファインチューニング |
| 実例を並べるとプロンプトが長すぎる | 費用と遅延 | ファインチューニング |
| 検索結果があるのに使わない | 振る舞いの不安定 | 検索結果込みでFT |
プロンプト設計とファインチューニングの差は、指示を毎回入力するか、重みに焼き付けるかの違いです。プロンプトは書き換えれば次の呼び出しから変わり、再学習の料金はかかりませんが、入力・出力トークンの料金や設計・評価の工数は発生します。ファインチューニングは学習データの作成と再学習の手間がかかる代わりに、長い指示と実例を毎回送らずに済みます。ガイドも、ファインチューニングの利点の1つに、プロンプトの指示と実例を学習で置き換えて入力トークンを減らせることを挙げています。プロンプト側の設計はプロンプトエンジニアリングとは？4要素と手法の例、ファインチューニングとの使い分け、検索結果や履歴まで含めて入力を組み立てる考え方はコンテキストエンジニアリングとは？プロンプトエンジニアリングとの違いと実装手法・始め方にまとめています。
判断を急がないほうがよい場面もあります。評価用の質問と期待する回答がまだ無い段階では、どの症状が出ているかを見分けられません。その状態でRAG基盤の選定やファインチューニングの学習データ作りに進むと、効いたかどうかも測れないまま費用だけがかかります。社内文書を検索させる構成を外部に相談する場合も、評価用の質問と期待する回答を先に用意しておくと要件が伝わります。弊社でもRAG構築支援を提供しています。
RAGとファインチューニングを併用する構成
農業分野の研究におけるRAGとファインチューニングの併用効果
2つは排他的ではありません。OpenAIのガイドは両者を「additive, not exclusive」（足し算であって二者択一ではない）と書いています。Microsoftの研究者による「RAG vs Fine-tuning: Pipelines, Tradeoffs, and a Case Study on Agriculture」（arXiv:2401.08406）は、農業の文書から質問と回答を作って学習させ、ファインチューニングで正答率が6ポイント以上上がり、RAGを足すとさらに5ポイント上がったと報告しています。同じ論文の表18（GPT-4が評価基準に沿って採点した正答率）では、GPT-4そのままで75%、RAGで80%、ファインチューニングで81%、両方を組み合わせて86%でした。一方、同じ表のLlama-2-chat 13Bは、RAGなしで76%±2%、RAGありで75%±2%で、RAGを足しても上がっていません。併用の効果はモデルによって変わるので、自分の評価データで確かめる必要があります。
検索結果込みで学習するRAFT
RAFTは、検索結果を含む入力でモデルを学習させる併用手法です。UC Berkeleyの研究者によるRAFT（Retrieval Augmented Fine Tuning、arXiv:2403.10131）は、質問と一緒に、答えを含む文書と答えに関係しない文書を混ぜて渡し、関係しない文書を無視して正しい箇所を引用しながら答えるよう学習させる手法です。PubMed、HotpotQA、Gorillaの各データセットで、領域を絞ったRAGの性能を上げています。
OpenAIのガイドも同じ方向を勧めており、RAGを使うアプリケーションなら、検索結果を含めた形でファインチューニングの学習例を作るよう書いています。本番で検索結果つきの入力を受けるのに、検索結果の無い質問と回答で学習させると、モデルは検索結果の使い方を学ばないまま本番に出ます。
RAGから始めてファインチューニングを足す併用の順序
併用は、片方ずつ効果を測りながら積み上げます。先にRAGで事実の誤りを減らし、それでも書式や判断の揺れが残るときに、検索結果込みの学習データでファインチューニングを足す順序が安全です。事実を覚えさせる目的のファインチューニングを併用しても、RAG単独を上回るとは限りません。上のOvadiaらの表でも、事実を学習させたMistral 7BにRAGを足した0.810は、素のモデルにRAGを足した0.875を下回りました。学習データの件数と形式はファインチューニング用データセットの作り方｜サンプル形式・必要件数・品質要件【2026年10月】で詳しく扱っています。
2026年11月時点でファインチューニングを選べる基盤
OpenAI APIは既存の利用組織だけが2027年1月6日まで
OpenAIは廃止情報ページで、セルフサービス型ファインチューニングを3段階で閉じると告知しています。2026年5月7日にファインチューニングの実績がない組織のジョブ作成を止め、7月2日には直近60日にファインチューニング済みモデルで推論していない組織も対象に加えました。残る既存の利用組織も、2027年1月6日で新しいジョブを作れなくなります。
推論は元のモデルが終わるまで使えますが、その元のモデルも長くありません。2026年10月14日の告知で、ファインチューニングできるgpt-4.1とgpt-4.1-mini（いずれも2025-04-14版）は、ファインチューニング版を含めて2027年1月14日に提供を終えます。gpt-4.1-nanoは2026年10月23日に終了済みです。OpenAI上でファインチューニングを前提にした設計は、2027年1月で使えなくなると考えてください。ChatGPTやGPTsとの関係はChatGPTのファインチューニング｜GPTsとの違い・やり方・料金と新規受付終了【2026年10月】で整理しています。
Microsoft Foundry・Google Cloud・Amazon Bedrockの対応状況
| 基盤 | ファインチューニングできる主なモデル | 注意点 |
|---|---|---|
| Microsoft Foundry | gpt-4.1系・gpt-4o系（SFT/DPO） | gpt-4.1系の配備終了は2027-10-14 |
| Google Cloud | Gemini 3.5 Flash・2.5 Pro など6モデル | 3.5 Flashの学習はus・euのみ |
| Amazon Bedrock | Nova 2 Lite・Nova Pro・Claude 3 Haiku・Llama 3.x | 対応リージョンは米国のみ |
Microsoft Foundryのファインチューニング概要では、gpt-4o-miniが教師ありファインチューニング（SFT）、gpt-4oとgpt-4.1・gpt-4.1-mini・gpt-4.1-nanoがSFTと選好学習（DPO）、o4-miniとgpt-5が強化ファインチューニング（RFT）に対応しています。gpt-5のRFTは招待制です。モデルの廃止予定表では、gpt-4.1系のファインチューニング済みモデルの学習終了は既存顧客で2027年4月14日以降、配備の終了は2027年10月14日です。OpenAI本家より長く使えますが、同じ世代のモデルなので期限はあります。
Google CloudのGeminiの教師ありファインチューニングは、Gemini 3.5 Flash-Lite、3.5 Flash、3.1 Flash-Lite、2.5 Pro、2.5 Flash-Lite、2.5 Flashの6モデルに対応しています（2026年11月3日更新）。ただし3.5 Flashの学習はusとeuのマルチリージョンだけで行うため、データを国内に置く要件がある場合は先に確認してください。Amazon Bedrockの対応表はNova系とClaude 3 Haiku、Llama 3.1〜3.3を載せていますが、リージョンはus-east-1とus-west-2だけで、東京リージョンはありません。
オープンウェイトモデルの自前学習という選択肢
クラウドの提供状況に左右されない方法として、LlamaやQwen、gpt-ossのようなオープンウェイトのモデルを自前のGPUで学習する道が残っています。全パラメータを更新せず、LoRAのように少数の追加パラメータだけを学習する方式なら、GPUメモリ容量、量子化、系列長、バッチサイズなどの条件に応じて、1枚のGPUで7B級モデルを学習できる場合があります。必要なGPUメモリと学習コードはファインチューニングのやり方｜必要なGPUメモリとLoRA学習コード、評価・デプロイまで、LoRAとQLoRAの違いはPEFTとLoRAの違いとは？peftライブラリの使い方とQLoRA・DoRAの比較【2026年10月】で解説しています。
RAGとファインチューニングの費用を試算するコード
「RAGは安い」とよく言われますが、毎回の推論で検索結果を入力に足すぶん、問い合わせの件数が多いと逆転します。以下はOpenAIの料金ページにあるgpt-4.1の単価（1Mトークンあたり、2026年11月4日時点）を初期値にした試算コードです。標準は入力2.00ドル・出力8.00ドル、ファインチューニング済みは入力3.00ドル・出力12.00ドル、学習は25.00ドルです。入力・出力・学習がトークン単位で課金される基盤なら、単価を差し替えて同じ計算ができます。時間課金や配備費は別計算です。このコードには検索、埋め込み、保存、開発・運用の費用を含めていません。
def monthly_cost(req, in_tok, out_tok, price_in, price_out):
"""1か月の推論費用(ドル)。price_* は1Mトークンあたりの単価"""
return req * (in_tok * price_in + out_tok * price_out) / 1_000_000
def rag_vs_ft(req, k, chunk_tok, prompt_tok, out_tok,
base=(2.00, 8.00), tuned=(3.00, 12.00),
train_price=25.00, train_tok=50_000, epochs=3, retrain_per_month=1):
rag = monthly_cost(req, prompt_tok + k * chunk_tok, out_tok, *base)
ft_infer = monthly_cost(req, prompt_tok, out_tok, *tuned)
ft_rag = monthly_cost(req, prompt_tok + k * chunk_tok, out_tok, *tuned)
ft_train = train_tok * epochs * train_price / 1_000_000 * retrain_per_month
return round(rag, 2), round(ft_infer, 2), round(ft_rag, 2), round(ft_train, 2)
for req in (1_000, 10_000, 100_000):
rag, ft, ft_rag, train = rag_vs_ft(req, k=5, chunk_tok=400, prompt_tok=200, out_tok=400)
print(f"{req:>7,}件/月 RAG {rag:>7.2f} FT {ft:>7.2f} FT+RAG {ft_rag:>7.2f} 学習 {train:.2f}")
前提は、検索で上位5件（1件400トークン）を取り、質問と指示が200トークン、回答が400トークンです。学習データは5万トークンを3エポック、月1回の再学習としました。Python 3で実行すると次の結果になります。
1,000件/月 RAG 7.60 FT 5.40 FT+RAG 11.40 学習 3.75
10,000件/月 RAG 76.00 FT 54.00 FT+RAG 114.00 学習 3.75
100,000件/月 RAG 760.00 FT 540.00 FT+RAG 1140.00 学習 3.75
ファインチューニング済みモデルの単価は1.5倍でも、入力が200トークンで済むため、月1万件ならRAGの76.00ドルに対して54.00ドルで収まります。学習費は月3.75ドルで、月1万件のFT推論費54.00ドルと合わせると57.75ドルです。月1,000件では合計9.15ドルとなり、RAGの推論費7.60ドルを上回ります。ただし、この比較はファインチューニングだけで事実まで正しく答えられる前提に立っています。更新される社内情報などをRAGで補う構成では、FT+RAGが月114.00ドルとなり、3つの中で最も高くなります。
実際の費用を左右するのは、単価よりも学習データを作る人手です。質問と模範回答の作成・検収費は、担当者の作業時間と時間単価から別途見積もり、推論費と合算して比較してください。RAG側で削れる費用は検索件数で、kを5から3に減らすと、月1万件の試算は76.00ドルから60.00ドルに下がります。入力トークンの削減は応答開始までの時間を短縮する場合がありますが、検索時間やキャッシュ、出力長も影響します。検索件数を減らす際は、回答精度と応答時間を併せて測ってください。チャンクの大きさと件数の決め方はチャンクとトークンの違いとは？チャンク分割の手法とRAGのサイズ設計を日本語で実測【2026年版】で実測しています。
RAGとファインチューニングで失敗する典型パターン
社内知識を覚えさせるためにファインチューニングする型
少数の質問と回答だけで、社内規程の事実を網羅的に学習できたと判断するのは危険です。未学習の質問でも正確に答えられるかを評価してください。Ovadiaらの表では、事前学習に含まれない事実を文書で追加学習したMistral 7Bの正答率は0.481から0.504への改善にとどまりましたが、質問と回答を使う教師あり学習とは条件が異なります。事実の供給はRAGに任せ、ファインチューニングは書式と振る舞いに限ってください。
検索を測らずに生成側だけを直す型
RAGの誤答は、生成モデルではなく検索で起きていることが多くあります。当たっていない文書を渡している限り、生成モデルを上位版に替えても直りません。検索と生成を分けて測る方法はRAGCheckerとは？RAGを検索と生成に分けて診断する指標・使い方と導入の落とし穴【0.1.9】で扱っています。
集計や横断的な問いにRAGで答えようとする型
「昨年度の全案件で最も多かった不具合は何か」という問いは、上位5件のチャンクを読んでも答えが出ません。検索ではなく集計の問題なので、SQLや集計処理を別に用意します。実体どうしの関係をたどる問いなら、グラフ構造を索引に持つGraphRAGをAzureで動かす方法｜graphrag 3.3の設定とAccelerator終了後の選択肢【2026年10月】のような構成が候補になります。
旧版と最新版が混在した文書にRAGを入れる型
回答の品質は、検索対象に加えて検索処理と生成処理にも左右されます。旧版と最新版を区別せずに検索対象へ入れると、古い規程を根拠に回答するおそれがあります。導入前にやるべきことは基盤の選定ではなく、文書の棚卸しと版の整理です。社内文書をナレッジベースとして検索させるときの権限の扱いはナレッジベースとRAGの違い｜社内文書をAmazon Bedrockで検索させる設計と権限制御【2026年11月】で解説しています。
よくある質問
RAGとファインチューニングは併用できますか？
併用できます。OpenAIの精度最適化ガイドは両者を足し算の関係と説明しており、農業の文書を使った研究ではファインチューニングで6ポイント以上、RAGを足してさらに5ポイント正答率が上がりました。ただし、学習済みモデルに後からRAGを足して精度が下がった例もあります。RAGを使う前提なら、検索結果を含めた形で学習データを作り、片方ずつ効果を測りながら積み上げてください。
プロンプトエンジニアリングとファインチューニングはどう違いますか？
プロンプトエンジニアリングは指示と実例を毎回の入力に書く方法で、書き換えればすぐ反映され、学習の費用もかかりません。ファインチューニングは同じ指示や実例を学習で重みに焼き付ける方法で、長いプロンプトを毎回送らずに済み、書式が安定します。まずプロンプトで試し、実例を並べても書式が揺れる場合や、プロンプトが長すぎて費用や応答時間が問題になる場合にファインチューニングを検討します。
OpenAIでファインチューニングはもう使えないのですか？
新しく始めることはできません。OpenAIは2026年5月7日からファインチューニングの実績がない組織のジョブ作成を止め、既存の利用組織も2027年1月6日で新しいジョブを作れなくなります。学習済みモデルの推論は元のモデルが終わるまで使えますが、gpt-4.1とgpt-4.1-miniは2027年1月14日に提供が終わる予定です。続けるならMicrosoft FoundryやGoogle Cloudなど別の基盤に移ることになります。
RAGのチューニングとは何をすることですか？
RAGのチューニングは、モデルの重みではなく検索側を調整する作業を指すのが一般的です。チャンクの大きさと重なり、検索で取る件数、埋め込みモデルの選択、キーワード検索との組み合わせ、検索結果の並べ替え（リランキング）などを、評価用の質問で正答率を測りながら変えます。ここで挙げた検索設定の調整は、生成モデルを学習させるファインチューニングとは別の作業です。必要な費用と工数は、検索基盤の変更範囲や評価データの整備状況によって変わります。
RAGのコストはどのくらいかかりますか？
文書の埋め込み生成料金に限ると、OpenAIのtext-embedding-3-smallは1Mトークンあたり0.02ドルなので、2,400万トークンの文書でも0.48ドルです。推論料金は検索結果を毎回入力に足すぶん増えます。総費用には、文書処理、索引の保存・検索、評価・運用の費用も加わります。gpt-4.1で上位5件（各400トークン）を渡し月1万件を処理すると、試算では月76.00ドルでした。費用は問い合わせ件数と渡す文脈の長さにほぼ比例します。
