RAG(Retrieval-Augmented Generation:検索拡張生成)とは、生成AIが回答を作る前に社内文書などのデータを検索し、見つけた文章を根拠として回答させる仕組みです。LLMの学習データは公開情報に限りませんが、学習や入力で与えていない自社の規程や今月の価格改定には、正確に答えられるとは限りません。RAGはモデルを学習し直さず、質問のたびに必要な文書を渡すことでこの穴を埋めます。この記事では、仕組みを準備と質問時の2段に分けて説明し、LLM・ファインチューニングとの違い、RAGでも誤答が残るという実測、マネージドサービスの課金単位、導入を急がないほうがよい条件までを順に扱います。
まとめ:RAGの意味・仕組み・違い・欠点の要点
RAGは「調べてから答えるAI」の作り方です。事前に文書を細かく分けて検索できる索引を作っておき、質問が来たら関連する数件を取り出し、質問と一緒にLLMへ渡して回答させます。知識を足すのは索引の側なので、文書を差し替えれば翌日から回答も変わります。
LLMとは対立する技術ではなく、LLMに社内資料を渡す外付けの仕組みです。ファインチューニングとの選び分けは「覚えさせたいのが知識か、振る舞いか」で決まり、更新される知識を答えさせる用途ならRAGが先です。
欠点は、RAGでも誤答が残ることです。2024年に評価された法務向けのRAG製品でも、回答の17〜33%に誤りが含まれたという査読付きの実測があります。費用は索引の保管料と検索1回ごとの料金、LLMの呼び出し料の3つで、OpenAIのFile searchなら保管1GBまで無料で試せます。全文検索で必要な資料を探せるならRAGの構築を急がず、答えが文書化されていなければ先に資料を整備します。誤りが重大な損害につながる用途では、RAGの回答だけで判断を確定させず、人の確認を組み込みます。
RAG(検索拡張生成)の意味と2020年の原論文
Retrieval・Augmented・Generationの語順と各社の定義
RAGは「検索(Retrieval)で拡張した(Augmented)生成(Generation)」の略で、処理の順番がそのまま名前になっています。クラウド各社の公式の定義も中身は同じです。Microsoft LearnはAzure AI SearchのRAG概要で「独自のコンテンツに応答を接地させてLLMの能力を拡張するパターン」と書き、Google Cloudは「検索やデータベースといった従来の情報検索システムの長所と、生成LLMの能力を組み合わせたAIフレームワーク」と説明しています。
両社の定義に共通するのは、LLMそのものではなく「LLMの外側に検索をつなぐ設計」を指す言葉だという点です。特定の製品名ではないため、AWSでもAzureでも、自社サーバー上のオープンソースでも同じ構成を組めます。
原論文が組み合わせた検索器と生成器の構成
用語の出発点は、Facebook AI Research・University College London・New York Universityの研究者による論文「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」です。2020年5月22日にarXivへ投稿され、同年のNeurIPS 2020に採録されました。
論文は、事前学習済みのseq2seqモデル(生成器)を「パラメトリック記憶」、Wikipediaの密ベクトル索引を「ノンパラメトリック記憶」と呼び、事前学習済みの検索器で両者をつなぎました。モデルの重みに覚えさせる知識と、外の索引に置いて引く知識を分けたのがこの論文の要点で、今の企業向けRAGもこの分担をそのまま受け継いでいます。
LLM単体が社内情報に答えられない2つの理由
1つ目は知識の締め切りです。LLMは学習データを集めた時点までの情報しか持たず、その後に出た規程や製品仕様は知りません。2つ目は自社データへのアクセスです。自社のWikiや契約書を学習にも入力にも使っていなければ、LLMはその内容を参照できません。知らないことを聞かれてもLLMはもっともらしい文章を作れてしまうため、誤った回答(ハルシネーション)が生まれます。仕組みの全体像は大規模言語モデル(LLM)の解説で扱っています。
RAGの仕組み:事前の索引づくりと質問時の3段階
文書を検索できる形にする事前準備の4工程
RAGの品質には、文書の整備と索引づくりに加え、質問時の検索と回答生成も影響します。まず、準備の4工程を説明します。
- 読み込み:PDF・Word・社内Wikiなどから本文のテキストを取り出す
- 分割(チャンク化):検索の単位になる数百〜千字程度の断片に切る
- 埋め込み:各断片を、意味の近さを計算できる数値の列(ベクトル)に変換する
- 格納:ベクトルと元の文章を索引(ベクトルデータベース)に保存する
分割では、回答に必要な条件や例外を同じ断片に残す設計が必要です。例えば、条文の原則とただし書きを切り離すと、検索できても適用条件を誤る原因になります。分割幅の決め方はチャンク分割のサイズ設計、日本語に強い変換モデルの選び方は埋め込みモデルの選び方、索引の置き場所はベクトルDBの仕組みと製品比較にまとめました。
質問時の検索・拡張・生成の流れとPythonの最小例
質問が来たら、まず質問文も同じ方法でベクトルに変換し、索引から意味の近い断片を数件取り出します(検索)。次に取り出した断片を「資料」として質問の前に貼り付けたプロンプトを組み立てます(拡張)。最後にLLMがその資料を根拠に回答を書きます(生成)。
流れを外部ライブラリなしで書くと次のようになります。説明のため、ベクトルの代わりに2文字ずつの重なりで近さを測っています。
docs = {
"経費精算規程 第5条": "出張の宿泊費は1泊あたり12,000円を上限とする。",
"就業規則 第21条": "年次有給休暇は入社6か月後に10日付与する。",
"情報セキュリティ規程 第8条": "社外へのファイル送付は承認済みのストレージを使う。",
}
def bigrams(text):
return {text[i:i + 2] for i in range(len(text) - 1)}
def retrieve(question, k=2): # 検索:質問に近い文書をk件
q = bigrams(question)
scored = sorted(docs.items(), key=lambda d: len(q & bigrams(d[1])), reverse=True)
return scored[:k]
def build_prompt(question): # 拡張:資料を質問の前に貼る
context = "\n".join(f"[{title}] {body}" for title, body in retrieve(question))
return ("次の資料だけを根拠に答え、使った資料名を示してください。"
"資料に無ければ「資料にありません」と答えてください。\n"
f"資料:\n{context}\n質問: {question}")
print(build_prompt("出張の宿泊費の上限はいくらですか")) # プロンプトを表示。回答生成には別途LLM呼び出しが必要
Python 3.9.6で実行すると、1件目に経費精算規程が入り、2件目には質問と関係の薄い就業規則が入ります。この例は関連度が低くても上位2件を必ず返すためです。実装では関連度のしきい値を設け、該当する資料がなければ検索結果を返さない設計にできます。OpenAIのRetrievalガイドも、0.0〜1.0のscore_thresholdで関連度の低い断片を除く設定を用意しています。プロンプトで「資料だけを根拠に」「無ければ無いと答える」と縛り、使った資料名を出させるのはそのためです。LangChainで同じ流れを組む手順はLangChainでRAGを構築する手順にあります。
ベクトル検索の取りこぼしとハイブリッド検索での補い方
意味の近さで探すベクトル検索は、言い換えに強い反面、型番や社内略語のような文字列そのものを探す質問に弱くなります。「A-200の保証期間」で検索すると、似た説明文の別型番が上位に来ることがあります。そこで実務では、キーワード検索(BM25)とベクトル検索を並行して走らせて結果を統合するハイブリッド検索が有力な選択肢です。Microsoft Learnの前掲ページも、再現率を最大にする手段としてハイブリッドクエリを挙げています。統合方法はハイブリッド検索の仕組みとRRFで解説しています。
LLMとRAGの違いと役割分担
LLMは文章を理解して書く「頭脳」、RAGはその頭脳に社内資料を手渡す「仕組み」です。RAGはLLMがあって初めて成り立つ構成なので、「LLMかRAGか」という二択はありません。比べるべきは「LLMだけで使う」か「LLMにRAGをつけて使う」かです。
| 観点 | LLM単体 | LLM+RAG |
|---|---|---|
| 答えられる範囲 | 学習済みの情報・入力された資料 | 検索で取得した社内文書・最新情報も |
| 情報の更新 | モデルの更新を待つ | 索引の文書を差し替える |
| 社内資料の渡し方 | 人が毎回貼り付ける | 検索で選んで自動で渡す |
| 応答までの処理 | LLMの呼び出し1回 | 検索+LLMの呼び出し |
一般的な文章の要約や翻訳、アイデア出しはLLM単体で足ります。社内の固有の事実に答えさせたいときに限ってRAGをつけます。RAGのない社内チャットで規程を聞くと、それらしい誤答が返るのはこの役割分担を外しているためです。
RAGとファインチューニングの違いと選び分け
ファインチューニングは、既存のLLMに追加データを学習させてモデルの重みそのものを更新する手法です。RAGはモデルに手を加えず、外の索引を引きます。
| 観点 | RAG | ファインチューニング |
|---|---|---|
| モデルの重み | 変えない | 更新する |
| 覚えさせるもの | 事実・文書の中身 | 文体・出力の型・判断の癖 |
| 知識の更新 | 文書の差し替えで即日 | 学習のやり直し |
| 回答の根拠 | 参照元を示せる | 示しにくい |
| 主な費用 | 索引の保管・検索・推論 | 学習データ作成・学習・推論 |
判断の軸は1つで、覚えさせたいのが「知識」ならRAG、「振る舞い」ならファインチューニングです。社内規程や製品情報への質問応答は前者なので、RAGから始めます。社内用語どおりの書式で報告書を出させたい、特定の分類を一貫して返させたいといった要件が残ったときに、ファインチューニングを重ねます。研究での比較結果や費用の試算はRAGとファインチューニングの違いと使い分けで詳しく扱っています。
RAGの欠点と限界
RAGでも残る誤答:法務RAGツールで17%と33%
RAGを入れればハルシネーションが無くなるわけではありません。スタンフォード大学の研究者らが法律分野の商用RAGツールを評価した論文「Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools」(Journal of Empirical Legal Studies、2025年4月)では、表B1のハルシネーション率がLexis+ AIで17%、Westlaw AI-Assisted Researchで33%でした。2024年に米国法に関する202問で評価した結果で、判例データベースを検索して答える専用製品でも、回答の6件に1件以上に誤りや根拠のずれが含まれたことになります。現在の製品や他の分野のRAGにそのまま当てはまる数字ではありませんが、「検索をつければ正しくなる」とは言えない根拠です。
原因には、検索が的外れな文書を拾うこと、元の文書が古い・矛盾していること、正しい資料を渡してもLLMが読み違えたり根拠のない内容を生成したりすることがあります。誤答が出たら、まず「どの文書が検索されたか」を見ます。検索結果が外れていれば検索側を見直し、適切な文書が取れている場合は、文書の内容に加えて、プロンプトとLLMの読解・生成結果を確認します。例えば、新旧2つの版の規程が同じ索引に入り、有効な版を判別できない場合には、古い規程を根拠に答えたり、回答が一貫しなくなったりすることがあります。精度の測り方はRAG評価の指標と運用への組み込みにまとめました。
権限・鮮度・応答時間で起きる運用上の欠点
精度の次に問題になりやすい順に並べます。
- 閲覧権限:人事評価や役員会資料を同じ索引に入れると、検索側で絞らない限り誰の質問にも返ります。文書ごとのアクセス権を検索時に引き継ぐ設計が要ります(ナレッジベースとRAGの違いと権限制御)。
- 索引の鮮度:元の文書を改訂しても、索引を作り直すまで古い内容で答え続けます。更新の担当と再索引の頻度を決めておかないと、改訂のたびに古い内容で答える期間が生まれます。
- 応答時間と費用:検索とLLMの呼び出しが1回の質問ごとに走り、渡す資料が長いほど入力トークンの料金も増えます。
実務ではまず権限から決めます。Microsoft Learnの前掲ページも「財務データは財務チームだけが見られるべき」という課題を挙げ、従来型のRAGでは文書単位で検索結果を絞る(security trimming)方法を示しています。精度は運用しながら上げられますが、見せてはいけない文書が一度回答に出ると取り返せません。
長文を読めるLLMが出てもRAGが残る理由
一度に数十万トークンを読めるLLMが出て、「資料を全部渡せばRAGは要らない」という議論があります。ところが、Liuらの研究「Lost in the Middle」(TACL 2024)は、関連する情報が入力の先頭か末尾にあるときに性能が高く、中ほどにあると下がるU字型の傾向を報告しています。長く渡せることと、長い入力の全部を同じ精度で使えることは別です。一方で、Gemini-1.5やGPT-4で両者を比べたLiらの研究(EMNLP 2024)では、計算資源を十分に与えれば全文入力のほうが平均性能でRAGを上回り、RAGの強みは大幅に低い費用にあると結論づけています。
費用の面でも、毎回すべての資料を入力すれば質問1回ごとに全文の入力料金がかかります。数百ページの規程集を毎日何百回も引くなら、関連する数件だけを渡すRAGで入力費用を大きく抑えられます。精度はどちらが上か一概に言えないため、同じ質問群で両方を試して比べます。逆に、資料が数ページで質問のたびに全文を読ませても安いなら、RAGを組まずに全文を渡すほうが早く作れます。
RAGの導入方法と費用の目安
マネージドサービス4種の課金単位
索引の作成と検索をクラウド側に任せるマネージドサービスを使えば、分割・埋め込み・索引の運用を自分で書かずに済みます。2026年11月15日時点の公式料金ページで、課金の単位は次のとおりです。
| サービス | 保管の課金 | 検索の課金 |
|---|---|---|
| OpenAI File search | 1GB・1日0.10ドル(1GBまで無料) | 1,000回2.50ドル |
| Amazon Bedrock Managed Knowledge Base | 原データ1GB・月5.00ドル | Retrieve 1,000回1.00ドル |
| Azure AI Search(Dedicated) | 階層×検索ユニット数の時間課金 | 同左に含む |
| Google Cloud RAG Engine | 管理DB(Spanner)の容量 | Spannerの処理ユニット |
出典はOpenAIの料金ページ、Amazon Bedrockの料金ページ、Azure AI Searchの階層の説明、RAG Engineの課金の説明です。Google CloudのRAG Engineは、旧Vertex AI RAG EngineのページがGemini Enterprise Agent Platformの構成要素として転送されるようになっています。回答を書くLLMの料金は別途確認が必要です。埋め込みの追加料金はサービスと構成によって異なり、Amazon Bedrock Managed Knowledge Baseの標準モデルによる埋め込み生成は表の料金に含まれます。
RAGを無料で試せる範囲と本番でかかる費用
検証だけなら無料に近い費用で作れます。OpenAIのFile searchは保管が1GBまで無料なので、規程集のPDF数十本を載せて動きを確かめる段階では、検索1回あたり0.25セントとLLMの料金だけで済みます。使い方はOpenAI File Searchの使い方と料金で解説しています。オープンソースの埋め込みモデルとPostgreSQLの拡張pgvector(2026年10月1日公開の0.8.7が最新)を社内のPCやサーバーで動かせば、クラウドの料金はかかりません。
本番の費用は、索引量と質問数、1回に渡す資料の長さを分けて見積もります。以下は質問数による従量料金の試算です。社員300人が1日5問ずつ聞くと、月20営業日で約3万回の検索になり、File searchの検索料金だけで約75ドル、さらに資料を貼った長いプロンプトでのLLM呼び出しが3万回分かかります。見積もりは「文書量」より「質問数×渡す資料の長さ」で立ててください。製品ごとの料金体系の違いはベクトルデータベースの価格比較にあります。
自前構築を選ぶ条件
マネージドから始めるのが基本で、自前で組む理由があるのは次のような場合です。図面と本文が入り組んだ設計図書のように独自の分割規則が要る、既存のPostgreSQLに相乗りして基盤費を増やしたくない、社外のクラウドに文書を置けない規程がある。これらに当たらなければ、先にマネージドで精度の下限を測り、足りない部分だけ自前に置き換える順番が工数の二重払いを防ぎます。構築の工程はRAG構築の手順で、要件整理から本番運用までの支援は一創のRAG構築支援で扱っています。
企業でのRAGの利用場面と採用を急がない条件
社内問い合わせ・文書検索・顧客サポートで効く理由
Linux Foundationが2024年11月に公表した生成AIの調査では、生成AIを採用している組織の297回答のうち49%がRAGを使っていました。利用場面の例は、総務・情報システム部門への問い合わせに一次回答するチャット、散らばった規程や議事録を意味で探す社内文書検索、顧客サポートでオペレーターに回答候補と根拠の文書を示す支援です。
3つに共通するのは「答えは社内のどこかに書いてあるが、探すのに時間がかかる」業務だという点です。この条件に当てはまるほど、回答時間の短縮が数字に出ます。問い合わせ対応に絞った作り方はAI FAQシステムの仕組みと作り方で扱っています。
RAGの構築を急がない・使い方を限定する3つの条件
次のどれかに当たるなら、RAGの構築を後回しにするか、使い方を絞ったほうが早く成果が出ます。
- 文書が数十件程度で更新も少なく、全文検索やタグ付けで必要な資料を探せる:まずは既存の検索で対応し、複数文書を横断する回答生成が必要になった段階でRAGを検討します。
- 答えが文書になっていない:担当者の経験で回っている業務には参照する資料がなく、誤答が増えるだけです。先に手順書を書くのが近道です。
- 誤りが許されない:投薬量や法的な確定判断のように損害が取り返せない用途では、前述のとおり専用製品でも誤答が残るため、RAGの回答で判断を確定させず、人の確認を必ず挟みます。
この3つに当たらない「社内文書の検索・要約・一次回答」が、RAGの効果が最も出やすい用途です。
Agentic RAG・GraphRAG・マルチモーダルRAGへの発展
基本形のRAGで足りない場面に向けて、派生した構成があります。検索結果が足りないとLLM自身が判断して検索し直すAgentic RAG、文書から人物や組織の関係をグラフにして「AとBの関係」を問う質問に答えるGraphRAG、図表や画像も検索対象に含めるマルチモーダルRAGです。どれも基本形より呼び出し回数や前処理の費用が増えるため、基本形で精度の不足を確かめてから選びます。
RAGについてよくある質問
RAGの読み方と正式名称は?
「ラグ」と読み、正式名称はRetrieval-Augmented Generation、日本語では検索拡張生成と訳されます。2020年の論文で使われた名前がそのまま定着しました。
「RAG化する」とはどういう意味ですか?
社内文書などをRAGで検索できる状態に整えること、つまり文書を読み込んで分割し、埋め込みに変換して索引に入れる準備を指して使われる言い方です。「マニュアルをRAG化する」なら、マニュアルを生成AIの参照先として使える形に変換するという意味になります。
OpenAIのAPI(ChatGPTのAPI)でRAGは組めますか?
API経由なら、OpenAIのFile searchツールでベクトルストアにファイルを登録すれば、検索から回答までをOpenAI側でまとめて実行できます。料金は検索1,000回あたり2.50ドルと、保管1GB・1日あたり0.10ドル(1GBまで無料)です。社内システムに組み込む場合は、この方法か、自社で索引を持って検索結果をプロンプトに貼る方法のどちらかになります。
RAGとMCPの違いは何ですか?
RAGは「検索した文書を根拠に回答させる」設計の考え方で、MCP(Model Context Protocol)はLLMアプリが外部のツールやデータにつなぐための通信の取り決めです。役割が違うため併用でき、RAGの検索部分をMCPのツールとして公開する構成もあります。具体例はMCPとRAGの違いと使い分けで扱っています。
RAGとAIエージェントの違いは何ですか?
RAGは質問に答えるために資料を引く仕組みで、AIエージェントは目標に向けて自分で手順を決め、ツールを呼び出して作業を進める仕組みです。エージェントが使う道具の1つとしてRAGの検索が組み込まれることが多く、社内規程を確かめてから申請書を作る、といった動きを支えます。全体像はAIエージェントとはにまとめました。