テック羅針盤
AIニュース解説

AIのハルシネーションはなぜ起きる

生成AIがもっともらしい誤情報を返す理由を5つに分け、検索連携の限界、引用の確かめ方、高リスク用途の境界、実務で使える検品手順を解説します。

公開日 更新日
  • #生成AI
  • #ハルシネーション
  • #情報検証
  • #AIリテラシー

生成AIに質問すると、文章は自然なのに、人名、日付、制度、引用元などが間違っていることがあります。このような、もっともらしく見える誤った出力は「ハルシネーション」と呼ばれます。単なる誤字とは違い、存在しない論文や判例を、整った書誌情報付きで示す場合もあるため注意が必要です。

一方で、生成AIの回答をすべて疑って捨てる必要もありません。大切なのは、AIが得意な「下書き、整理、言い換え」と、別の根拠で確認すべき「事実認定、判断、意思決定」を分けることです。この記事では、誤りが起きる仕組みから、仕事で再利用できる検品方法までを順に説明します。

1. ハルシネーションは「意図的な嘘」ではなく生成上の誤り

文章生成AIの中心的な処理は、入力された文脈に続きそうな語や文字のまとまりを予測し、出力を組み立てることです。NIST（米国国立標準技術研究所）は、生成AIが訓練データの統計的な分布を近似して出力する設計から、事実と異なる内容や内部で矛盾する内容が生じ得ると説明しています。

つまり、生成AIは通常、人間のように「事実ではないと知りながら相手をだまそう」と考えているわけではありません。質問に合う自然な文章を生成した結果として、正しい情報と同じ文体で誤った情報を出すことがあります。本記事では日常的な呼び名としてハルシネーションを使いますが、NISTの文書では「confabulation」という語が採用されています。

この違いを理解すると、対策も変わります。「正直に答えて」と頼むだけでは不十分です。AIの態度を諭すのではなく、根拠を限定する、確認可能な形式で出させる、別の情報源と照合する、といった工程が必要になります。

ハルシネーションと別の誤りを分ける

AIの間違いをすべてハルシネーションと呼ぶと、直すべき工程を取り違えます。根拠のない内容を生成した場合は出典照合、計算だけを誤った場合は式と入力値の再計算、古い情報を使った場合は更新日の確認というように、原因ごとに対策が違います。

誤りの種類何が起きているか最初に行う確認
ハルシネーション根拠のない人物、数字、引用、出来事を自然に作る一次資料の実在と該当箇所を照合する
計算ミス根拠の数値は合っていても演算や単位換算を誤る式、入力値、単位を別の計算手段で再計算する
情報の古さ過去には正しかった制度や仕様を現在のものとして扱う発行日、更新日、適用期間を確認する
指示の読み違い対象、期間、除外条件、出力形式を取り違える依頼条件と回答を項目単位で突き合わせる
元資料の誤り与えた文書自体の誤植や古い記述をそのまま使う独立した一次資料や現行版と照合する

複数の原因が重なる場合もあります。たとえば古い資料を読み、欠けた部分を推測で補った回答には、情報の古さとハルシネーションの両方が含まれます。

2. ハルシネーションが起きる5つの原因

原因はひとつではありません。実際の回答では、次の要因が重なっていることがあります。

  1. 次の言葉を予測する仕組み
    生成AIは、文章として自然に続く表現を作れます。しかし、「文として続きやすいこと」と「現実に正しいこと」は同じではありません。実在しそうな著者名、論文名、URLの形式を組み合わせ、存在しない出典を作ることもあります。

  2. 学習データに情報がない、少ない、古い
    非公開情報、地域限定の制度、新しく変わった仕様、記録の少ない出来事などは、回答の材料が不足しやすい領域です。知識の更新時点もサービスやモデルで異なるため、「最近」という言葉だけでは対象期間を固定できません。

  3. 質問の前提が曖昧または誤っている
    人名の取り違えや存在しない制度を質問に含めると、AIが前提を訂正せず、話を続ける場合があります。「この前提が誤っている可能性も確認して」と指示すると改善することはありますが、それだけで検証は完了しません。

  4. 長い文脈の混線や資料同士の矛盾
    大量の資料を一度に渡すと、別の章の数値を結び付けたり、古い版と新しい版を混ぜたりすることがあります。要約では、原文にある条件、例外、否定表現が落ち、結論の意味が変わることもあります。

  5. 分からなくても答える方が評価されやすい構造
    OpenAIの研究は、一般的な正答率中心の評価では、回答を控えるより推測した方が得点を得やすく、これが不確かな場面での推測を促し得ると論じています。したがって、モデルの性能が上がっても、誤りが自動的にゼロになるとは限りません。

原因を分けると、「詳しい指示を書く」「資料を渡す」「検索を使う」「人が確認する」のどれか一手ですべてを解決できない理由が見えてきます。

3. 流ちょうさや自信と正確さは別の性質

生成AIは、正しい回答にも誤った回答にも、同じように整った見出し、断定的な文末、専門用語を使えます。文章の読みやすさは、事実の正しさを示す証拠ではありません。

「自信度をパーセントで答えて」と頼む方法にも限界があります。画面に出た数値が、現実の正答確率として調整されているとは限らないためです。自信が高いという自己申告より、どの主張が、どの一次資料の、どの箇所に支えられているかを見る方が実務的です。

特に注意したいのが、回答の一部だけ正しい場合です。たとえば実在する省庁名と制度名を挙げながら、対象者や期限だけを誤ると、全体が本物らしく見えます。検品では文章全体に丸を付けず、「制度の名称」「対象」「日付」「例外」のように主張を小さく分解します。

同じ理由で、複数のAIに同じ質問をして答えが一致しても、それだけでは裏付けになりません。似た学習資料や検索結果に依存して、同じ誤りを返す可能性があるからです。AI同士の多数決ではなく、元資料との照合が必要です。

4. 検索やRAGを付けても誤りが残る理由

検索結果や社内文書を回答時に取り出してAIへ渡す仕組みは、RAG（検索拡張生成）と呼ばれます。回答に必要な資料をその場で与えられるため、AIの記憶だけに頼る場合より、根拠を限定しやすくなります。

ただし、検索があることと、回答の全記述が根拠に沿っていることは同じではありません。主に次の箇所で誤りが残ります。

  • 検索語がずれ、必要な資料を取得できない
  • 古い版、二次記事、関係の薄い文書を取得する
  • 文書の分割位置により、条件や例外が別の断片へ落ちる
  • 取得した文章を要約する段階で意味を取り違える
  • 根拠にない部分を、一般知識らしい文章で補ってしまう
  • 実在する資料を示しながら、その資料にない結論を帰属させる

したがって、「出典付き回答」も完成品ではなく、検品しやすい下書きと考えます。リンクが開くかだけでなく、リンク先に主張を支える記述があるかまで確認します。検索から回答生成までを分け、どの工程で根拠が抜けたかを記録します。

対策ごとの効果と残る限界

対策主に減らせる誤り残る限界向いている用途
質問の前提・期間・形式を明示する曖昧さによる取り違え元知識がない場合や誤った場合は補えない要約、整理、定型的な下書き
根拠資料を限定して渡す資料外の知識との混線読み違い、条件の脱落、資料自体の誤りは残る社内文書や長文資料の整理
検索・RAGを使う古い知識、手元にない情報検索漏れ、古い版、根拠にない補完は残る仕様・制度・ニュースの調査補助
一次情報と主張単位で照合する架空出典、数字・日付・引用の誤り照合する人の見落としや解釈違いは残る公開記事、意思決定の材料
専門家または責任者が承認する個別事情を無視した高リスク判断専門家にも情報不足や判断差がある医療、法律、金融、安全に関わる利用

対策は強弱ではなく役割が異なります。低リスクの文章整理なら条件指定と見直しで足りることがありますが、誤りの影響が大きいほど、一次情報との照合と責任者の承認を追加します。

5. 引用と事実を確認する実務手順

短い回答でも、すべての文を同じ強さで調べると時間がかかります。次の順番なら、影響の大きい誤りから確認できます。

  1. 検証可能な主張を抜き出す
    人名、組織名、製品仕様、数字、日付、引用文、研究結果、制度、法令、URLを一覧にします。「便利です」のような感想と、裏付けが要る事実を分けます。

  2. 間違えた時の影響で優先順位を付ける
    健康、権利、金銭、安全、公開文書に関わる主張を先に確認します。背景説明の軽微な表現より、行動を変える情報が優先です。組織で繰り返し使う場合は、NIST AI RMF 1.0が示す「ガバナンス、文脈の把握、測定、管理」の観点で、確認担当と許容できるリスクを先に決める方法があります。

  3. AIが挙げた出典を「候補」として扱う
    出典名やURLが示されても、その時点では証拠とみなしません。検索結果の要約文だけで済ませず、発行元のページまたは原文を開きます。

  4. 出典の実在と書誌情報を確認する
    論文なら題名、著者、掲載誌、発行年、DOIが一致するかを確認します。DOIは doi.org/ の後ろへ登録番号を付けて開き、登録先へ到達するかを確かめます。Crossrefも、DOIリンクが正しく解決されることを登録確認の基本手順として案内しています。到達しただけでは内容の正しさまで証明しないため、次の確認へ進みます。

  5. 元資料の該当箇所と照合する
    引用文が原文にあるか、数字の単位、調査対象、期間、但し書きが一致するかを見ます。法令なら条文と施行状況、製品なら公式仕様と更新日を確認します。二次記事は入口に使えても、重要な断定の最終根拠は可能な限り一次情報へ戻します。

  6. 計算と結論を分けて再確認する
    元の数値が正しくても、割合、単位換算、因果関係の解釈が誤っている場合があります。計算は式と入力値を出させ、別の方法で再計算します。

  7. 修正後の全文をもう一度読む
    一部を直した結果、前後の説明と矛盾していないかを確認します。公開記事なら、形式検査と内容判断を分担します。

6. 医療・法律・金融など高リスク用途の境界

医療、法律、金融、安全に関わる回答は、一般的な学習や論点整理の補助と、個別の判断を分けます。症状から診断を決める、法的権利や期限を確定する、特定の金融取引を決める、といった行為を、汎用AIの回答だけで完結させるべきではありません。

専門家の確認が必要なのは、AIが間違うからだけではありません。医療では既往歴、服薬、検査結果などの個別事情、法律では地域、時点、事実関係、手続、金融では目的、期間、損失許容度、税や商品の条件が結論を左右します。一般論が正しくても、個別条件への適用を誤れば実害につながります。

WHOは、健康分野の大規模言語モデルについて、権威があるように見える回答が完全に誤っていたり重大な誤りを含んだりする可能性を挙げ、専門家による監督と厳格な評価を求めています。法務分野でも、ABA（米国法曹協会）は生成AI利用時の能力、守秘、説明などの職業上の義務を整理し、生成物の分析や引用を確認する責任を示しています。

実務では、AIに最終判断を任せず、「相談前に質問を整理する」「一次資料の候補を探す」「専門家へ渡す論点表を作る」といった補助へ役割を限定します。また、病歴、顧客情報、未公開の契約書などを入力する前に、利用サービスのデータ取扱条件と組織の規則を確認する必要があります。

ハルシネーション対策と機密保持は別の問題です。回答が正確でも入力内容が適切に扱われるとは限らないため、入力前の判断は利用中のサービスの保存・学習・共有条件で分けて確認してください。

日本の経済産業省などがまとめた「AI事業者ガイドライン（第1.2版）」も、ハルシネーション等による誤った出力をリスク例として挙げ、信頼性・正確性の高いデータソースやRAGなどの活用を対策候補にしています。ただし、同ガイドラインの対策も誤りをゼロにする保証ではなく、利用目的と影響に応じて選ぶ必要があります。

7. よくある質問

AIのハルシネーションを完全になくす方法はありますか

現時点で、あらゆる質問に対する誤りを完全になくす一般的な方法はありません。回答範囲を資料内に限定し、根拠のない場合は回答を控えさせ、重要な主張を一次情報と照合することで、誤りを減らし発見しやすくします。

検索機能が付いたAIなら信用できますか

検索機能は新しい情報や根拠へ到達する助けになりますが、検索漏れ、古い資料の取得、要約時の読み違いが残ります。URLの実在だけでなく、リンク先の該当箇所が回答の主張を支えているか確認してください。

AIが示した論文や引用が本物か、どう確認しますか

論文は題名、著者、掲載誌、発行年、DOIを照合し、DOIリンクの到達先で書誌情報を確認します。引用文は検索結果の抜粋ではなく原文を開き、前後の文脈、対象、条件、否定表現まで比べます。

同じ質問を複数のAIに聞けば正しさを確認できますか

一致は参考にはなりますが、裏付けにはなりません。複数のAIが同じ公開情報や似た検索結果に依存し、同じ誤りを返す可能性があるため、最終確認は独立した一次情報へ戻します。

ハルシネーションが起きやすい質問はありますか

記録の少ない固有名詞、最近変わった制度、正解が公開されていない情報、曖昧な前提を含む質問は特に注意が必要です。日付や対象範囲を固定し、分からない場合は推測せず不明と示すよう求めます。

8. そのまま使える検品テンプレート

次のテンプレートをAIの回答の後ろに貼り、まず主張を分解させます。ただし、AI自身の自己点検だけで検品を終えず、人が元資料を開く工程を残してください。

この回答を公開・利用する前の検品表に変換してください。

1. 検証可能な主張を、1行に1件ずつ抜き出す
2. 各主張を「低・中・高」のリスクに分類する
3. 根拠候補は、発行者、文書名、発行日、URL、該当箇所を示す
4. 根拠が見つからない主張には「根拠未確認」と書く
5. 数字は、単位、対象期間、計算式、前提条件を分ける
6. 引用は原文と一字ずつ照合できる形で示す
7. 回答内の矛盾、古い可能性、専門家確認が必要な箇所を列挙する
8. 不明な点を推測で埋めず「不明」とする

最後に人が見る確認欄も用意します。

  • URLを実際に開き、発行元を確認した
  • 題名、著者、日付、DOIなどの書誌情報が一致した
  • 元資料の該当箇所が、本文の主張を本当に支えている
  • 数字の単位、期間、対象、例外を確認した
  • 二次情報だけで重要な結論を断定していない
  • 医療、法律、金融、安全の個別判断を専門家へ戻した
  • 修正後の全文に新しい矛盾がない

ハルシネーション対策の要点は、AIに「間違えないで」と頼むことではなく、間違いが混ざる前提で発見できる工程を作ることです。生成、検索、引用、確認、承認を分ければ、AIの速さを生かしながら、判断の責任を曖昧にせず利用できます。

一次情報メモ（確認日: 2026-07-23）

次に読む

執筆・検証情報: テック羅針盤編集部が一次資料と公的ガイドを照合し、検品テンプレートを独自整理しました。2026-08-23確認。広告・アフィリエイトリンクは含みません。