--- title: "ハルシネーション（AI）とは？意味・原因・種類・対策を実例で解説" url: "https://www.issoh.co.jp/tech/details/4472/" published: 2024-12-11 updated: 2026-10-11 categories: ["AI"] publisher: "株式会社一創" --- # ハルシネーション（AI）とは？意味・原因・種類・対策を実例で解説 ハルシネーションとは、生成AIが事実に基づかない情報を、あたかも正しいかのように自信を持って出力する現象を指します。ChatGPTのような大規模言語モデルが実在しない判例や論文を「引用」してしまうのがその典型です。名前は精神医学でいう「幻覚（hallucination）」を借りた比喩で、写真・映像用語の「ハレーション」とは別物です。本記事では、意味と語源、なぜ起きるのかという仕組み、事実性と忠実性という種類の分け方、実際に起きた誤りの事例、そしてRAGや人間による検証といった実務的な対策までを整理します。 ## まとめ：ハルシネーションの要点 - **定義**：生成AIが事実と異なる内容や存在しない情報を、もっともらしく生成する現象。日本語では「幻覚」と訳される。 - **原因**：言語モデルは次に来る語を確率的に予測する仕組みで、学習データの欠落や、評価の設計が「わからない」より推測を後押しすることから生じる。 - **種類**：事実に反する「事実性ハルシネーション」と、与えた文脈・指示から逸脱する「忠実性ハルシネーション」に大きく分けられる。 - **対策**：RAGで外部知識に根拠づける、出力を人間が一次情報で検証する、プロンプトと出力設定を調整する。原理上ゼロにはできないため、確認を前提に運用する。 ## ハルシネーションの意味と語源 ハルシネーション（hallucination）は、もともと「幻覚」を意味する英単語です。AIの文脈では、モデルが入力や学習した知識に裏付けのない内容を、事実であるかのように生成することを指します。人間が実在しないものを知覚してしまう幻覚になぞらえた比喩表現で、Google CloudやIBMなどのベンダーもこの語を用いて生成AIのリスクを説明しています。 ポイントは、モデルが「嘘をつこう」としているわけではないことです。言語モデルは意味や真偽を理解しているのではなく、大量のテキストから学んだ確率に従ってそれらしい語を並べます。その結果、文章としては自然でも内容が事実と食い違う、という形で誤りが表面化します。 ### ハレーションとの違い 読み方が似ているため「ハレーション」と混同されがちですが、両者は無関係です。ハレーション（halation）は写真・映像で強い光源の周囲がにじんで白飛びする現象を指す光学用語で、AIの誤生成とは意味が異なります。「ハルジネーション」「ハルシエーション」といった表記も検索で見られますが、正しくはハルシネーションです。 ## ハルシネーションが起きる仕組みと原因 原因は一つではなく、モデルの仕組み・学習データ・評価の設計・使い方が絡みます。主なものを分けて見ていきます。 ### 次の語を予測する仕組みに由来する誤り 大規模言語モデルは、文の続きとして確率が高い語を選び続けることで文章を生成します。事実データベースを検索して答えているわけではないため、学習時に見た情報が曖昧だったり、そもそも存在しない事柄を問われたりすると、確率的にもっともらしい「作り話」を出力します。この仕組みは、[大規模言語モデル（LLM）の仕組み](https://www.issoh.co.jp/column/details/3838/)を押さえると理解しやすくなります。 ### 推測を後押しする学習・評価の設計 OpenAIが2025年9月に公開した論文「Why Language Models Hallucinate」は、ハルシネーションが神秘的な故障ではなく、標準的な学習と評価の手続きが「わからない」と答えることより推測を報酬づけている結果だと論じています。多くのベンチマークは正解には加点する一方、正答か誤答かで採点し、「回答を控える（棄権する）」ことを評価しません。すると、当てずっぽうでも答えたほうがスコア上は得になり、モデルは自信ありげに推測する挙動を学習してしまう、という指摘です。ハルシネーションを減らすには、こうした評価の設計自体を見直す必要があるとしています。 ### データの欠落・知識の古さ・曖昧な指示 学習データに含まれない専門分野やニッチな固有名詞は、埋め合わせとして捏造されやすくなります。モデルには学習を打ち切った時点（知識カットオフ）があり、それ以降の出来事は正しく答えられません。たとえば学習を2024年で打ち切ったモデルは、2025年以降に登場した製品やニュースを問われても正しく答えられず、それらしい情報を作ってしまいます。また、前提が曖昧なプロンプトや、実在しない前提を含む質問は、モデルにそれらしい回答を「でっち上げ」させる引き金になります。 ## 事実性・忠実性で分けるハルシネーションの種類 近年の研究（Huangら 2023年のサーベイなど）では、ハルシネーションを大きく「事実性」と「忠実性」の2つに分ける整理が定着しています。この2軸で見ると、原因の切り分けと対策の当て方が明確になります。 | 大分類 | 内容 | 例 | | ----------- | ----------------- | --------------- | | 事実性ハルシネーション | 実世界の事実と矛盾・捏造する | 実在しない判例や論文を引用する | | 忠実性ハルシネーション | 与えた文脈・指示・論理から逸脱する | 要約に原文へ無い内容を加える | 事実性ハルシネーションは、さらに事実と食い違う「事実相反」と、根拠なく作り出す「事実捏造」に分けられます。忠実性ハルシネーションは、指示を無視する・文脈と噛み合わない・前後で論理が矛盾する、といった形で現れます。入力に含まれる情報を歪める「内的（intrinsic）」か、入力に無い情報を持ち込む「外的（extrinsic）」かという古典的な切り口も、この2軸と重ねて理解できます。 ## ハルシネーションの実例 最も知られた事例が、米国の民事訴訟Mata v. Avianca（ニューヨーク南部地区連邦地裁）です。原告側の弁護士がChatGPTで準備書面を作成したところ、実在しない判例が複数引用され、しかもChatGPTは「これらの判例はLexisNexisやWestlawで確認できる」と裏付けまで作文しました。裁判所は該当判例を確認できず、2023年6月にKevin Castel判事が原告側の弁護士2名と所属法律事務所に対し、連帯で5,000ドルの制裁金を科しています。専門家でも見抜けないほど自然な体裁で誤情報が生成される、という危険を示した象徴的なケースです。 ほかにも、存在しない書籍やURLを出典として提示する、人名と経歴を取り違える、実在しない製品仕様を説明する、といった誤りが日常的に報告されています。いずれも文章としては破綻しておらず、鵜呑みにすると意思決定を誤らせます。 ## ハルシネーションへの対策 ハルシネーションは仕組みに根ざすため完全には無くせません。現実的な方針は「発生を減らす」ことと「出力を検証してから使う」ことの組み合わせです。 ### RAGによる外部知識への根拠づけ RAG（検索拡張生成）は、回答生成の前に信頼できる文書を検索し、その内容に基づいて答えさせる手法です。モデルの記憶だけに頼らせず、社内文書や一次資料という根拠を与えることで、特に事実性ハルシネーションを抑えられます。仕組みや導入の考え方は[RAGとは何か](https://www.issoh.co.jp/column/details/12919/)で詳しく解説しています。 ### プロンプトと出力設定の調整 「わからない場合はわからないと答える」「出典を明示する」といった指示を与えると、根拠のない断定を減らせます。出力のランダム性を左右するtemperatureを下げる、回答範囲を限定する、といった設定も有効です。指示の設計は[システムプロンプト設計](https://www.issoh.co.jp/tech/details/9297/)の考え方が役立ちます。 ### 人手検証（ヒューマン・イン・ザ・ループ）を前提とした運用 生成結果を人間が一次情報と突き合わせて確認する仕組み（ヒューマン・イン・ザ・ループ）は、医療・法務・金融など誤りが許されない領域では必須です。数値・固有名詞・引用は必ず原典に当たる、AIの回答をそのまま公開しない、という運用ルールを定めておきます。 ### ファインチューニングとモデル選択の限界 特定分野のデータで[ファインチューニング](https://www.issoh.co.jp/tech/details/3955/)を行うと、その領域での的外れな生成は減らせます。ただし学習外の問いには依然として弱く、これ単独で解決はできません。用途に応じて最新モデルを選ぶことも大切ですが、どのモデルもハルシネーションを完全には防げない前提で、確認プロセスと組み合わせて使うのが実務的です。 ## よくある質問 ### ハルシネーションとはどういう意味ですか？ 生成AIが事実に基づかない情報を、もっともらしく生成してしまう現象です。英語のhallucination（幻覚）を語源とする比喩で、日本語では「幻覚」と訳されます。 ### ハルシネーションとハレーションの違いは何ですか？ 別の言葉です。ハルシネーションはAIの誤生成を指し、ハレーションは写真・映像で光源の周囲が白くにじむ光学現象を指します。読みが似ているだけで意味に関連はありません。 ### ハルシネーションはなぜ起きるのですか？ 言語モデルが意味を理解せず、確率的に次の語を予測して文章を作るためです。学習データの欠落や知識の古さ、曖昧な指示に加え、評価の設計が推測を後押しすることも一因とされています。 ### ハルシネーションは完全になくせますか？ 現状の技術では完全には防げません。仕組みに由来するため、RAGや検証プロセスで発生を減らし、影響を抑える運用が現実的です。 ### どうすればハルシネーションを減らせますか？ RAGで外部の一次資料に根拠づける、出典明示や棄権を促すプロンプトにする、生成結果を人間が確認する、といった対策を組み合わせるのが効果的です。 ## 関連記事 - [大規模言語モデル（LLM）とは？仕組みと学習の流れをわかりやすく解説](https://www.issoh.co.jp/column/details/3838/) - [RAGとは？仕組みとLLM・ファインチューニングとの違い・企業での導入例を解説](https://www.issoh.co.jp/column/details/12919/) - [システムプロンプト設計の概要：AIを意図通りに動かすための基本概念・原則とベストプラクティス](https://www.issoh.co.jp/tech/details/9297/) - [ファインチューニングとは？AIモデルを適応させる技術の概要と目的](https://www.issoh.co.jp/tech/details/3955/) --- 出典: [ハルシネーション（AI）とは？意味・原因・種類・対策を実例で解説]()（株式会社一創）