ハルシネーション（AI）とは？意味・語源・発生率と原因・種類を実例で解説

ハルシネーションとは、生成AIが事実と異なる内容や存在しない情報を、正しいかのように自信を持って出力する現象です。英語のhallucination（幻覚）を借りた呼び名で、写真用語の「ハレーション」とは別の言葉です。どのくらいの頻度で起きるかは条件で大きく変わり、文書を要約させる評価でも2026年10月時点で掲載された111件のモデルで1.8〜24.2%でした。本記事では、意味と語源、発生率の実測値、起きる原因、2つの分類法、判決や返金にまで至った実例を、論文・判決文・政府文書などの一次情報で整理します。

まとめ：ハルシネーションの要点

• 意味：生成AIが根拠のない内容をもっともらしく生成すること。語源はラテン語で「とりとめなく話す、夢を見る」を意味する語。
• 発生率：文書要約のリーダーボード（2026年10月22日更新）の111掲載行で、最良1.8%、中央値9.6%。知識を問うテストでは、推測しがちなモデルの誤答率が75%に達した例もある。
• 原因：次の語を確率で予測する仕組みに加え、正答率だけで採点する評価が「わからない」より推測を得にする。
• 種類：LLMでは事実性／忠実性、要約・翻訳など元文書があるタスクでは内在的／外在的で分けることが多い。
• 向き合い方：誤りが起こり得る前提で、根拠文書を与え、不確かなら答えを控えさせ、出典を確かめてから使う。

ハルシネーションの意味と語源

AIの分野でいうハルシネーションは、モデルが入力や学習データに裏付けのない内容を、事実であるかのように生成することを指します。OpenAIは自社の解説で「言語モデルが生成する、もっともらしく聞こえるが正しくない発言」と定義しています。モデルに嘘をつく意図があるわけではありません。言語モデルは学習した確率に沿って自然な続きを生成します。自然な文章であることと事実に合っていることは別なので、文章は滑らかなまま中身だけが事実から外れることがあります。

英語hallucinationの原義とAI用語になった経緯

Merriam-Websterによると、hallucinateの語源はラテン語のhallucinari（allucinari）で、意味は「とりとめなく話す、夢を見る」です。そこから精神医学の「幻覚」を指す語になりました。

コンピューターの分野で早い時期の用例は、2000年3月にカーネギーメロン大学のSimon BakerとTakeo Kanade（金出武雄）が発表した論文「Hallucinating Faces」です。低解像度の顔画像を高解像度化するとき、元画像に無い画素を推定して補うことを「hallucinated」と表現しました。この研究では「推定して補う」という意味で使われています。一方、生成AIの普及後は「無いものを事実のように作ってしまう」意味での用法が広まり、Cambridge Dictionaryは2023年のWord of the Yearにhallucinateを選んでいます。

なお、機械を擬人化しすぎる呼び方だという批判もあり、事実でない話を本人は正しいと思って語る「作話（confabulation）」の方が近いという提案もあります。実際にNIST AI 600-1は、リスク項目の名前に「Confabulation（作話）」を採用し、ハルシネーションは俗称として併記しています。

ハレーションとの違いと表記ゆれ

ハレーション（halation）は写真や映像の用語で、明るい部分の周りに光がにじんで広がる現象を指します。AIの誤生成とは無関係です。「ハルシネーション」と読みが似ているため混同されます。検索では「ハルシエーション」「ハルシネイト」「ハルシ」といった表記も見られますが、正しくはハルシネーション（名詞）で、動詞形の英語がhallucinateです。

ハルシネーションの発生率と評価条件による違い

「ChatGPTのハルシネーションは何%か」という問いに、ひとつの数字では答えられません。課題の種類、モデル、採点方法で数値が大きく変わるためです。代表的な公開データを2つ並べますが、条件が違うので2つの数値を直接比べることはできません。

文書を渡して要約させた場合：Vectaraのリーダーボード

Vectaraが公開しているHallucination Leaderboardは、各モデルに文書を渡して「文書の情報だけで要約せよ」と指示し、要約に元文書に無い内容が混じった割合を同社の判定モデルHHEM-2.3で測っています。2026年10月22日更新の表では111件のモデル（同じモデルの設定違いを含む）が並び、主な値は次のとおりです。

読み取れるのは2点です。まず、答えとなる文書を渡したこの評価でも、誤りがゼロのモデルはありませんでした。次に、新しい・大きい・推論が強いモデルほど低いとは限りません。上位には軽量モデルが並び、推論重視のo3-proは23.3%でした。モデル選びでは、自社の用途に近い条件で測った値を見るべきです。

知識だけで答えさせた場合：OpenAIのSimpleQA比較

OpenAIは2025年9月の解説記事「言語モデルでハルシネーションがおきる理由」で、事実を問う評価SimpleQAの結果を次のように示しました。

正答率だけを見ると古いo4-miniの方がわずかに上ですが、ほぼ全問に答えるため誤答率は75%です。gpt-5-thinking-miniは半分以上の問いで「わからない」と答え、誤答を26%に抑えています。この比較では、答えを控える割合の差が、そのまま誤答率の差として表れています。

ハルシネーションが起きる仕組みと原因

原因は1つではありません。生成の仕組み、評価のされ方、データと使い方の3層に分けると整理できます。

次の語を確率で予測する生成の仕組み

米国立標準技術研究所（NIST）の生成AIリスク管理プロファイル（NIST AI 600-1、2024年7月）は、生成モデルは学習データの統計的な分布を近似するように出力を作り、LLMは文の次のトークンや語を予測すると説明し、誤りはこの設計の自然な結果だとしています。トークンは文章を処理する単位で、単語と一致するとは限りません。事実のデータベースを引いて答えているわけではありません。そのため、学習中に見た情報があいまいなときや、存在しない事柄を問われたときにも、確率的に自然な続きを作って答えてしまいます。生成の流れは大規模言語モデル（LLM）の仕組みで詳しく扱っています。

出力のばらつきを決めるtemperatureなどの設定も影響しますが、下げれば事実になるわけではありません。設定の考え方は推論パラメータ（temperatureとtop_p）の決め方を参照してください。

「わからない」より推測が得をする評価の設計

OpenAIの研究者らによる論文「Why Language Models Hallucinate」（2025年9月4日提出）は、学習と評価の手続きが、不確実だと認めることより推測することに報酬を与えている点をハルシネーションの原因に挙げました。OpenAIの解説では誕生日を例にしています。知らない人の誕生日を「9月10日」と当てずっぽうで答えれば365分の1で正解になりますが、「わかりません」と答えれば必ず0点です。正答率だけで順位を付けるリーダーボードでは、推測するモデルの方が良く見えます。

同じ解説は、言語モデルは不確かなときに回答を控えられるので、ハルシネーションは避けられないものではないとも述べています。先のSimpleQAの表でも、答えを控える割合が高いモデルの方が誤答率は低く出ていました。

学習データに少ない事実・知識の期限・あいまいな指示

綴りや括弧の対応のように規則性のある知識は、学習が進むと誤りがほぼ消えます。一方、特定の人の誕生日のように一度しか出てこない事実はパターンから予測できず、誤りが残ります。モデルが学習で身につけた知識には、学習を打ち切った時点（知識カットオフ）という期限があります。検索結果や入力文書として新しい情報を渡さない限り、それより後の出来事には推測で答えることになります。また「〇〇社が発表した△△について教えて」のように、実在しない前提を含む質問をすると、モデルはその前提に合わせて答えを作りがちです。

ハルシネーションの種類：事実性・忠実性と内在的・外在的

分類には2つの系統があります。LLMを対象にしたHuangらのサーベイ（arXiv:2311.05232、2023年）は「事実性」と「忠実性」の2軸で分けます。要約や翻訳などの研究を整理したJiらのサーベイ（arXiv:2202.03629、ACM Computing Surveys）は、元の文書（ソース）を基準に「内在的」と「外在的」で分けます。

2つの系統は重なります。要約に原文と逆のことを書けば、内在的であり忠実性の誤りでもあります。注意したいのは外在的ハルシネーションです。Jiらは、元の文書に無い情報でも、外部の知識として事実なら誤りとは限らないと明記しています。つまり「原文に無い」と「事実でない」は別の問題で、確かめるには原文との照合と事実の照合の両方が要ります。

テキスト以外で起きるハルシネーション

ハルシネーションは文章生成に限りません。Koeneckeらの研究「Careless Whisper」は、OpenAIの音声認識Whisper APIに1万3,140件の音声区間を通し（2023年4月と5月に実行）、平均1.4%の文字起こしに、音声にまったく無い語句や文が入り込んだと報告しました。誤生成を含む文字起こし312件のうち38%には、暴力的な表現、事実と異なる関連づけ、偽の権威づけのいずれかが含まれていました。発話の途中に無音が長い話者ほど起きやすかったとしています。画像生成で存在しない文字や物体が描かれるのも、同じ系統の現象です。

ハルシネーションの実例：判決と返金に至ったケース

報道で広まった事例の中から、裁判所の判断や政府の開示文書で経緯を確かめられるものを3件挙げます。なおAir Canadaの件は、判決文でもチャットボットの仕組みは明らかにされておらず（同社が情報を出していない）、生成AIのハルシネーションと確定した事例ではありません。サイト上の自動応答の誤りに企業の責任が問われた例として載せています。

Mata v. Avianca（米ニューヨーク南部地区連邦地裁）：原告側の弁護士がChatGPTを使って作った書面に、実在しない判例が複数含まれていました。裁判所は2023年6月22日の命令で、弁護士2名と所属事務所に連帯で5,000ドルの納付を命じ、架空判例の著者とされた実在の裁判官らへ命令書を送ることも求めました。

Moffatt v. Air Canada（カナダ・BC州民事紛争審判所）：Air Canadaのサイトのチャットボットが、忌引運賃への減額は旅行後でも航空券発行から90日以内に申請できると案内しましたが、実際の規定は旅行後の申請を認めていませんでした。審判所は2024年2月14日、チャットボットの案内も同社の責任だとして、損害650.88ドルに利息と手数料を加えた計812.02カナダドルの支払いを命じました。

Deloitte（オーストラリア）：雇用職場関係省（DEWR）がGST込み439,142豪ドルで発注した保証レビュー報告書に誤りが見つかり、同省は2025年9月、品質の問題とAI利用の説明が不十分だったことを理由に、最終支払分97,587.11豪ドルの返金を求めました。

どの事例も、誤りそのものより「確かめずに外へ出した」ことが損失につながっています。誤った情報が広がる問題全般はインフォデミックの解説でも扱っています。

ハルシネーションを減らす方法と使ってはいけない場面

ここまでの原因に対応する手段は、根拠を与える・答えを控えさせる・人が確かめる、の3つです。実装の手順やコードはAIハルシネーション対策の実装手順にまとめているので、ここでは要点と判断に絞ります。

• 根拠を与える：社内文書や一次資料を検索して回答の材料に渡すRAG（検索拡張生成）で、事実性の誤りを減らせます。ただし、Vectaraの要約評価のように文書を渡した条件でも、モデルによって1.8〜24.2%の誤りが出ています。RAG特有の誤りの測り方はRAGTruthの解説が参考になります。
• 答えを控えさせる：「確信が持てない場合はわからないと答える」「出典を示せない主張は書かない」と指示します。SimpleQAの表では、答えを控える割合が高いモデルほど誤答率が低くなっていました。ただし同じモデルで指示だけを変えた比較ではないので、自社の用途で効果を測ってから運用に入れてください。
• 人が確かめる：数値・固有名詞・引用・URLは必ず原典に当たります。出力を自動で検査する仕組みはAIガードレールの設計で扱っています。

判断の目安として、誤りがそのまま外部の第三者に届く用途、たとえば裁判所や官公庁への提出書類、顧客へ自動で返す規約・料金の案内、医療や投資の個別判断では、人の確認を通さない生成AIの出力を使うべきではありません。Air Canadaの事例では、チャットボットの誤案内でも企業の責任とされました。社内向けの下書きやアイデア出しのように、人が必ず読み直す用途から始めるのが安全です。業務への組み込み方から相談したい場合は、生成AI導入支援で確認体制の設計も含めて支援しています。

よくある質問

ハルシネーションとはどういう意味ですか？

生成AIが事実と異なる内容や存在しない情報を、正しいかのように出力する現象です。英語のhallucination（幻覚）に由来し、語源のラテン語は「とりとめなく話す、夢を見る」を意味します。

ハルシネーションとハレーションの違いは何ですか？

別の言葉です。ハルシネーションはAIの誤生成、ハレーションは写真や映像で光源の周りが白くにじむ光学現象を指します。読みが似ているだけで意味のつながりはありません。

ChatGPTのハルシネーションの確率はどのくらいですか？

条件で大きく変わります。文書を渡して要約させるVectaraの評価（2026年10月22日更新）では、モデルによって1.8〜24.2%でした。知識だけで答えさせるOpenAIのSimpleQAでは、ほぼ全問に答えるo4-miniの誤答率が75%、答えを控えるgpt-5-thinking-miniが26%でした。

ハルシネーションはなぜ起こるのですか？

言語モデルは次に来るトークン（語や語の断片）を確率で予測して文章を作り、その仕組みだけでは内容が事実かどうかを保証できないためです。加えて、正答率だけで採点する評価では「わからない」と答えるより推測した方が点が高くなり、モデルが推測する方向へ学習されます。

ハルシネーションは完全になくせますか？

どの用途でも誤りが出ないと保証できる方法は、現時点ではありません。一方でOpenAIは、不確かなときに回答を控えれば避けられる誤りもあるとしています。根拠を与える、答えを控えさせる、人が原典で確かめる、を組み合わせて影響を抑えるのが現実的です。

関連記事

• AIハルシネーション対策｜プロンプト・RAG・検出APIで誤答を減らす実装手順
• 大規模言語モデル（LLM）とは？仕組みを4段階で解説｜学習・種類・企業での使い方まで
• RAGとは？仕組みとLLM・ファインチューニングとの違い・企業での導入例を解説
• RAGTruthとは｜RAGのハルシネーションを検出するACL 2024評価データセットを解説
• 推論パラメータとは？temperatureとtop_pの決め方・推論モデルでの非対応を実装目線で解説【2026年版】