大規模言語モデル（LLM）とは？仕組みを4段階で解説｜学習・種類・企業での使い方まで

大規模言語モデル（LLM：Large Language Model）とは、膨大なテキストから言葉の並び方を学び、「次に来るトークン（単語やその断片）」を確率で予測しながら文章を作るAIモデルです。ChatGPT・Gemini・Claudeといった対話AIの中核にあり、要約・翻訳・コード生成を1つのモデルでこなします。この記事では、LLMの仕組みを入力から出力までの4段階でたどり、学習の流れ、商用・オープンウェイト・国産の種類、苦手なこと、企業で組み込むときの形態の選び方までを、論文と公式資料をもとに整理します。

まとめ：LLMの仕組みと使いどころの要点

• 本質：LLMは「文脈から次のトークンを確率で選ぶ」処理を繰り返して文章を作ります。正しい知識を検索して答えているわけではありません。
• 仕組み：トークン化 → 埋め込み（ベクトル化） → Transformer（自己注意） → 次トークン予測、の4段階で捉えると全体がつながります。
• 学習：大量テキストでの事前学習で言語の土台を作り、指示チューニングやRLHFなどの事後学習で「指示に従う」応答に整えます。
• 種類：API経由で使う商用モデル（GPT・Claude・Gemini）、重みを手元で動かせるオープンウェイト（Llama・gpt-oss等）、日本語と国内運用を重視した国産モデルの3系統で選びます。
• 企業での使い方：まずAPI利用で試し、社内知識が要るならRAG、出力形式の固定には構造化出力、口調や応答傾向の調整にはファインチューニング、データを外に出せないならローカル実行を選びます。定型処理や誤りが許されない最終判断には使いません。

以降で、各段階を根拠と合わせて見ていきます。

大規模言語モデル（LLM）の定義と生成AI・ChatGPTとの関係

言語モデルとは、ある単語の並びの次に、どの単語がどれくらいの確率で続くかを見積もる数理モデルです。スマートフォンの予測変換も小さな言語モデルの一種です。この言語モデルを、桁違いのデータ量・計算量・パラメータ数で訓練したものが大規模言語モデルにあたります。

「大規模」を構成するパラメータ数・データ量・計算量

パラメータは、モデルが学習で調整する内部の重みです。2020年5月に論文が公開されたGPT-3は1,750億（175B）パラメータで、論文は「それまでの非スパースな言語モデルの10倍」と書いています。重要なのは、この規模でタスクごとの追加学習をせず、指示文と数個の例を渡すだけで翻訳や質問応答をこなせることを示した点です。GPT-3は、指示文や少数の例を入力してタスクを解かせる使い方を、大規模な評価で示しました。

ただし大きければよいわけではありません。2022年のChinchilla論文は、計算予算を増やして学習規模を拡大する際にはモデルを大きくするのと同じ割合で学習トークン数も増やすべきと結論づけ、70B・学習データ4倍のChinchillaが280BのGopherや175BのGPT-3を上回りました。パラメータ数だけでモデルの優劣を比べるのは、この時点で古い見方になっています。

生成AI・従来の自然言語処理（NLP）との違い

生成AIは、テキスト・画像・音声・動画などを生成するAIの総称です。LLMはそのうち言語を担う一分野で、画像生成モデルや音声合成モデルは生成AIですがLLMではありません。もっとも、現行の主要LLMは画像や音声の入力も受け付けるマルチモーダル対応が一般的で、「テキスト専用」という線引きは実態に合わなくなっています。

従来のNLPとの違いは、タスクごとにモデルを作るかどうかです。以前は感情分類なら感情分類用、固有表現抽出なら抽出用と、ラベル付きデータを集めて専用モデルを訓練していました。LLMは1つのモデルに対する指示の書き方を変えるだけで、要約・翻訳・分類を切り替えられます。AI・機械学習・深層学習の階層関係はAI・ML・DLの違いで整理しています。

ChatGPTとの違い：モデルとアプリケーションの区別

ChatGPTは、OpenAIがGPTシリーズのLLMを対話向けに調整して提供しているサービスの名前です。LLMがエンジンなら、ChatGPTはそのエンジンを積んだ完成車にあたります。同じ関係は、AnthropicのClaudeモデルとClaudeアプリ、GoogleのGeminiモデルとGeminiアプリにも成り立ちます。

この区別は契約で効いてきます。チャットサービスの利用契約と、APIでLLM本体を自社システムに組み込む契約とでは、料金体系も入力データの扱いも別です。社内で「ChatGPTを導入する」と言うとき、チャット画面を社員に配るのか、業務システムにAPIで組み込むのかを最初に分けておくと、後の検討がぶれません。

LLMが文章を生成する仕組み：入力から次のトークンを選ぶまでの4段階

LLMが文章を返すまでの処理は、文章をトークンに区切る、トークンを数値ベクトルに変える、Transformerで文脈を計算する、次のトークンを確率で選ぶ、の4段階です。選んだトークンを入力の末尾に足し、その埋め込みとTransformerによる計算を経て、次のトークンを予測します。

トークン化：日英の例文によるトークン数の比較

モデルは文章を文字のまま扱わず、単語やサブワード（単語の断片）などのトークンに分け、それぞれに番号を振ります。トークンは仕組みの用語であると同時に、APIの課金単位であり、一度に読める量の上限の単位でもあります。OpenAIが公開しているトークナイザーのライブラリtiktoken（0.14.0）で、同じ意味の日本語文と英語文を数えると次のようになります。

import tiktoken
ja = "大規模言語モデルは、次に来る単語を確率で予測しながら文章を生成します。"
en = "A large language model generates text by predicting the next word with probabilities."
for name in ["o200k_base", "cl100k_base"]:
    enc = tiktoken.get_encoding(name)
    print(name, len(enc.encode(ja)), len(enc.encode(en)))

この例文では、日本語のトークン数は英語に対してo200k_baseで2倍、cl100k_baseで約2.8倍です。比率は文章とエンコーディングによって変わります。「大規模言語モデル」はo200k_baseで「大／規／模／言／語／モデル」の6トークンに分かれます。日本語で長い資料を読ませる用途では、料金と上限の見積もりを英語の感覚で立てると不足します。トークナイザーはモデルごとに違うため、正確な数は使うモデルの計数APIで確かめてください。

埋め込み：トークンのベクトル表現への変換

次に各トークンの番号を、数百〜数千次元の数値の並び（埋め込みベクトル）に変換します。意味の近い語ほどベクトル空間で近い位置に来るよう学習されます。Mikolovらの2013年のword2vec論文では、「王−男＋女≒女王」のように、単語間の関係をベクトルの演算で近似できることが示されました。LLMの内部では、同じ「バンク」でも前後の語によって銀行と土手で別のベクトルになるよう、文脈に応じて表現が更新されていきます。

Transformerと自己注意：トークン間の関係の計算

現在の主要なLLMは、2017年6月公開の論文「Attention Is All You Need」で提案されたTransformerを土台にしています。中核の自己注意（Self-Attention）は、文中の各トークンが他のどのトークンにどれだけ注目すべきかを重みとして計算します。「彼はりんごを買った。それは甘かった」で「それ」が「りんご」を指すと判断できるのは、この重み付けによるものです。

論文の要旨は、再帰（RNN）も畳み込みも使わず注意機構だけで構成した結果、並列化しやすく学習時間が大幅に短くなったと述べています。単語を1つずつ順に処理するRNNと違い、文中の全トークンを同時に計算できるため、GPUを並べて巨大なデータで学習させることが現実的になりました。LLMの「大規模化」を可能にしたのは、精度以上にこの計算効率です。

次トークン予測：確率に基づくトークンの選択

最後に、語彙のすべてのトークンについて「次に来る確率」を計算し、そこから1つを選びます。選んだトークンを入力に足して再び計算する、という反復で文章ができあがります。同じ質問でも答えが毎回少し変わるのは、確率に従ってトークンを選んでいるためです。ばらつきは温度（temperature）などの設定で調整でき、下げると毎回似た固い出力に、上げると多様な出力になります。

この仕組みから、LLMが「理解しているように見える」理由も説明できます。大量の文章で次のトークンを当て続けるには、文法だけでなく、事実の関係や論理の運びまで内部に表現しておく方が有利です。その結果、推論しているかのような出力が出てきます。一方で、次トークン予測だけでは出力の正しさは保証されません。推論過程で自己検証するモデルでも誤りは残り、ハルシネーションが生じます。

コンテキストウィンドウ：一度に扱えるトークン数の上限

入力と出力を合わせて一度に扱えるトークン数の上限をコンテキストウィンドウと呼びます。2026年10月時点では、OpenAIのgpt-6-astraが1,050,000トークン、AnthropicのClaude Opus 5.5が100万トークン、GoogleのGemini 3.8 Flashが入力1,048,576トークンと、主要各社の上位モデルはおよそ100万トークンの枠を持ちます。応答に使う履歴や資料は、この枠に収めて渡します。上限を超える場合は、アプリケーション側で履歴の削除・要約・検索などを行うか、リクエストがエラーになります。通常の推論では会話のたびにモデルの重みを更新せず、渡された文脈を参照します。KVキャッシュを使う実装では、過去のトークンの計算結果を再利用します。

LLMの学習プロセス：事前学習から事後学習・推論モデルまで

LLMの能力は、性質の違う学習を段階的に重ねて作られます。言語の土台を作る事前学習と、指示に従う応答へ整える事後学習の二段構えが基本です。

事前学習：次のトークンを当て続ける自己教師あり学習

事前学習では、Webページ・書籍・コードなどの大量のテキストを使い、文章の続きを予測する課題を繰り返し解かせます。正解は元の文章そのものなので、人が正解ラベルを付ける必要がありません。これを自己教師あり学習と呼びます。2020年1月のスケーリング則の論文は、性能（損失）がモデルサイズ・データ量・計算量に対してべき乗則で改善し、その傾向が7桁以上の範囲で続くと報告しました。各社が計算資源を積み増してきたのは、この経験則があるからです。

事前学習を終えたモデルは「文章の続きを書く」ことはできても、質問に答えるとは限りません。「日本の首都は？」に対して、答えではなく似た質問文を続けて書いてしまうことがあります。

事後学習：指示チューニング・RLHF・DPOによる応答の調整

事前学習済みモデルを対話に使える形にするのが事後学習です。2022年3月のInstructGPT論文は、人が書いた模範応答で教師ありファインチューニングを行い、次に複数の出力を人が順位付けしたデータで報酬モデルを作って強化学習する手順（RLHF）を示しました。人による評価では、1.3BパラメータのInstructGPTの出力が、100倍大きい175BのGPT-3より好まれました。規模を増やすより、指示に従うよう調整する方が使い勝手を左右するという結果です。

RLHFは報酬モデルの学習と強化学習の2工程が要り、不安定になりやすい手法です。2023年5月のDPO（Direct Preference Optimization）は、同じ人の好みのデータを単純な分類型の損失で直接学習させ、報酬モデルと強化学習の工程を省きました。オープンウェイトモデルの調整ではDPO系の手法が広く使われています。

推論モデル：回答前の思考過程の生成

2024年以降、回答の前に長い思考過程を生成してから答える推論モデル（reasoning model）が主流の一角になりました。OpenAIのo1 System Cardは、o1シリーズを「大規模な強化学習で、思考の連鎖（chain of thought）を使って推論するよう訓練した」と説明しています。数学・プログラミング・多段の判断で精度が上がる一方、思考過程の分だけ出力トークンが増え、応答時間と料金が増えます。簡単な分類や定型の要約では、まず思考量を抑えた設定や非推論モデルで評価し、必要な精度を満たす中で費用と応答時間が小さい構成を選びます。

LLMの種類：商用API・オープンウェイト・国産の3系統

選定では、提供形態、重みの公開範囲、開発主体を分けて確認します。以下の商用API・オープンウェイト・国産は比較のための切り口で、互いに重なる分類です。

どの系統もTransformerを土台にした次トークン予測という仕組みは同じで、違いは学習データ、規模、提供形態、ライセンスです。

商用APIモデル：GPT・Claude・Gemini

OpenAIのGPT、AnthropicのClaude、GoogleのGeminiが3大勢力です。GPUを自社で調達せず、提供元がAPIで公開しているモデルを呼び出せます。ただし、本番化には精度評価、データの取扱条件の確認、監視の設計が必要です。また、入力データは提供元のサーバーに送られるため、データの保存・学習利用の条件を契約前に確認します。版の入れ替わりが速いので、現行のモデル名とコンテキストウィンドウはOpenAI・Anthropic・Googleのモデル一覧で確かめてください。ベンチマークの順位は版ごとに入れ替わるため、最終的には自社の実データで比べるのが確実です。

オープンウェイトモデル：重みを手元で動かせる系統

オープンウェイトモデルは、学習済みの重み（パラメータ）が公開され、自社のサーバーやPCにダウンロードして動かせるLLMです。OpenAIも2025年8月にgpt-oss（120bと20bの2種・Apache 2.0ライセンス）を公開しました。MetaのLlama、AlibabaのQwen、DeepSeek、Mistralなども代表例です。ライセンスはモデルごとに違い、Apache 2.0のように商用の改変が自由なものもあれば、Llamaのように利用者数や表記に条件を付ける独自ライセンスもあります。

選ぶ理由の中心はデータ主権です。入力を外部に一切送れない業務では、オープンウェイトを自社環境で動かすローカルLLMの構成が候補になります。代わりにGPUの調達とモデル運用の技術が自社に必要になります。構成と必要スペックはローカルLLMとは、国内の導入例はローカルLLMの活用事例で紹介しています。

SLM・量子化・LoRA：モデル規模・数値精度・学習対象の削減

数十億パラメータ程度の小規模言語モデル（SLM）は、汎用の知識量では大規模モデルに劣りますが、分類・抽出・定型の要約のように範囲が決まった業務なら実用になり、ノートPCやエッジ端末でも動きます。重みを16ビットから4ビットなどに丸める量子化を使うと、必要なメモリを数分の1に減らせます。精度への影響はモデル・量子化方式・タスクによって異なり、小規模モデルの4ビット量子化では大きく低下する場合もあるため、用途ごとに評価します。

自社向けの調整で使われるのがLoRA（Low-Rank Adaptation）です。元の重みは固定したまま、各層に小さな行列を追加してそこだけを学習させます。2021年のLoRA論文は、GPT-3 175Bの全パラメータのファインチューニングと比べて、学習するパラメータ数を1万分の1、GPUメモリを3分の1に減らしながら、品質は同等以上だったと報告しています。必要GPUと学習コードはファインチューニングの実行環境と実装で扱っています。

国産LLM：日本語性能と国内運用を重視する系統

日本語性能とデータの国内管理を重視した国産LLMも実用段階に入っています。デジタル庁は2026年3月6日、政府職員向けの生成AI環境「源内」で試用する国産LLMの選定結果を公表し、7件を選びました。2026年5月29日の公表資料によると、その後2社が辞退しました。5月に契約したのはNTTデータのtsuzumi 2、ソフトバンクのSarashina3 mini、NECのcotomi v3、富士通のTakane 32B、Preferred NetworksのPLaMo 2.0 Primeの5モデルです。

国産LLMには、ゼロから独自に学習した系統と、Llamaなど海外モデルに日本語データを追加学習した系統があります。官公庁や機密性の高い業務では、パラメータ規模よりも、国内のデータセンターで動かせるか、開発経緯を説明できるかが選定の決め手になっています。選定の経緯と各モデルの特徴はデジタル庁が選定した国産AI7モデルにまとめています。

LLMでできることと苦手なこと：ハルシネーションとリスク管理

できること：文書作成・要約・翻訳・コード生成・エージェント

業務での用途は、文書の下書き、長い資料の要約、多言語翻訳、コードの生成とレビュー、問い合わせ対応の自動化が中心です。議事録からの決定事項の抜き出しや、アンケート自由記述の分類にも使えます。文書分類は従来の機械学習でも可能でしたが、LLMでは自然言語の指示で分類条件を指定できます。最近は、LLMに検索・ファイル操作・社内システムの呼び出しを組み合わせ、一連の作業を自律的に進めさせる使い方も増えています。この構成はAIエージェントの仕組みと導入判断で詳しく扱っています。

苦手なこと：ハルシネーションの原因と抑え方

ハルシネーションとは、LLMが事実と異なる内容をもっともらしく出力する現象です。仕組みの章で見たとおり、LLMの次トークン予測は事実の正しさを保証しません。o1のように自己検証を行う推論モデルでも、誤答は残ります。学習データに無い事柄や学習後に変わった情報を聞かれると、存在しない製品名や誤った数値を自然な文章で返します。原因と種類はハルシネーション（AI）とはにまとめています。

実務では3つを組み合わせて抑えます。社内文書や最新資料を検索して、その内容に基づいて答えさせるRAG（検索拡張生成）で根拠のない生成を減らす。回答に出典を併記させ、人が確かめられる形にする。誤りの影響が大きい業務では、最終確認を人が行う工程を残す。プロンプトや検出APIを使った具体的な手順はAIハルシネーション対策の実装手順で解説しています。

機密情報・著作権・プロンプトインジェクションの管理

ハルシネーション以外に運用設計へ組み込むべきリスクは3つあります。1つ目は機密情報で、商用APIに入力したデータの保存期間や学習への利用条件は、事業者と契約プランごとに違います。利用規約を確認し、入力してよい情報の社内基準を先に決めておきます。2つ目は著作権で、生成物が既存の著作物に似ていないかの確認を公開前の工程に入れます。

3つ目のプロンプトインジェクションは、入力や読み込んだ文書に悪意ある指示を紛れ込ませ、LLMに想定外の動作をさせる攻撃です。外部ユーザーの入力を受けるチャットボットや、Webページを読み込むエージェントで問題になります。OWASPの対策指針に沿って入力・出力の検査に加え、ツールの権限と認可をモデルの外側で制御します。例えば、参照専用の社内検索には更新・削除権限を与えません。

企業がLLMを業務に組み込む4つの形態と選び方

LLMの仕組みを理解したうえで、導入の現場で実際に迷うのは「どの形で使うか」です。以下ではAPI利用・RAG・ファインチューニング・ローカル実行を比較します。これらは併用でき、APIやローカル実行にRAGや追加学習を組み合わせる構成もあります。

判断の起点は「知識を足したいのか、振る舞いを変えたいのか、データを外に出せないのか」の3問です。最新の社内情報に基づく回答が目的ならRAGが第一候補で、追加学習は要りません。出力フォーマットの固定には、まずJSON Schemaなどを指定できる構造化出力を検討します。口調や応答傾向がプロンプトだけでは安定しない場合に、ファインチューニングを評価します。ファインチューニングとRAGの使い分けは別記事で比較しています。どの形態が自社の要件に合うか判断がつかない段階では、生成AI導入支援のように要件整理から相談できる窓口を使うと、PoCの設計で遠回りしにくくなります。

LLMを採用しない方がよい場面

導入しない判断も設計の一部です。入力と出力の対応が完全に決まっている定型処理には、LLMを使いません。帳票の項目転記や固定ルールでの振り分けは、RPAやルールベースの仕組みの方が安く確実で、誤りの検証も簡単です。出力が確率で揺れるLLMを入れると、かえって検証の手間が増えます。

RAGの要否も、文書数だけでは決まりません。全文が入力上限内に収まり、全文投入で必要な精度・費用・応答時間を満たせるなら、検索基盤を作る前にその構成を試します。誤答が人命や法的責任に直結する判断では、LLMは下書きや候補出しまでにとどめ、最終判断者を人に置きます。

導入判断：PoCによる精度・費用対効果の評価

対象業務を選んで成功基準を数値で決め、少量のデータでPoC（概念実証）を行い、精度と費用対効果を測ってから本番開発に進むのが基本の順番です。PoCでは、同じ評価用データに対する正答率、人による修正時間、応答時間、入力・出力トークン数を記録します。API料金に運用・確認作業の費用も加え、現行業務の費用と比較して本番化を判断します。

よくある質問

LLMは何の略で、どういう意味ですか？

Large Language Modelの略で、日本語では大規模言語モデルと呼びます。大量のテキストで学習し、次に来るトークンを確率で予測して文章を作るAIモデルを指します。「大規模」はパラメータ数・学習データ量・計算量の3つが従来の言語モデルより桁違いに大きいことを表します。

LLMとAIの違いは何ですか？

AIは人間の知的な働きを機械で実現する技術全体の呼び名で、LLMはその中の一技術です。AIの中に機械学習があり、その一手法である深層学習のうち、言語を大量に学習させたものがLLMという階層になります。画像認識や需要予測には、LLMを使わない専用モデルもあります。一方、Geminiのようなマルチモーダルモデルは画像分類にも対応します。AIそのものの定義はAIとはで解説しています。

LLMとGPTの違いは何ですか？

LLMは技術の分類名で、GPT（Generative Pre-trained Transformer）はOpenAIが開発しているLLMのシリーズ名です。GPTはLLMの一種で、ClaudeやGeminiも同じくLLMです。ChatGPTはGPTを使った対話サービスの名前で、モデルそのものとは区別します。

大規模言語モデルの一覧はどこで確認できますか？

商用モデルは各社のモデル一覧ページ、オープンウェイトはHugging Faceのモデルページで、現行の版・コンテキストウィンドウ・ライセンスを確認できます。まとめ記事の一覧は版の入れ替わりに追いつかないことが多いため、選定の根拠にするときは提供元の一次情報を見てください。

LLMを無料で試す方法はありますか？

あります。主要な対話AIには無料で使えるプランがあり、応答の質を体感するにはそれで足ります。開発者が組み込みを試す場合は、各社APIの少額利用から始められます。オープンウェイトモデルならOllamaなどの実行ツールで手元のPCに入れ、API料金をかけずに試せます。ただし数十億パラメータ級でもGPUメモリや十分なメインメモリが必要です。

関連記事

• RAGとは？仕組みとLLM・ファインチューニングとの違い・企業での導入例を解説
• ローカルLLMとは？クラウド型との違い・必要スペック・Ollamaでの構築手順を解説
• LLM推論とは？仕組みと高速化の手法・推論基盤の選び方を実装視点で解説【2026年】
• ファインチューニングとは？LLMの追加学習の仕組み・RAGとの違いと使い分けを解説
• AIエージェントとは？生成AIとの違い・仕組みと業務に組み込む判断基準を解説