生成AIの回答を信じて大丈夫？ハルシネーション（嘘）を見抜くファクトチェック手順

たとえば、営業担当が生成AIに取引先の業界の動きをまとめさせ、その回答を提案書の2枚目にそのまま貼ったとします。上長は誤字と体裁、見積の金額を見て承認し、提案書は取引先へ送られました。7日後、先方から「この数字はどの調査のものですか」と聞かれ、担当も上長も答えられません。AIが挙げた調査名で探しても、その数字はどこにも載っていませんでした。

ハルシネーションは、質問の出し方を工夫しても無くなりません。対策の中心は、AIの回答を書類にして社外へ出す前に置く3つの確認です。1つ目は、作成者が確かめる語（数字・固有名詞・日付・条文や引用）に印をつけ、原典と1語ずつ突き合わせること。2つ目は、社外に出る書類に限って、作成者と別の人が印の付いた語だけを原典で見ること。3つ目は、原典の場所を書類の控えに残し、問い合わせや訂正のときに使えるようにすることです。確認の深さは、社内・取引先・契約や金額・公開の4段で変えます。以下、6段階の流れのどこに確認を置くかと、行き先ごとの深さを整理します。

ハルシネーションとは？AIの回答に誤りが混ざる仕組み

ハルシネーションとは、生成AIが事実と異なる内容を、もっともらしい文で出力することです。AIは手元のデータベースから正解を引いて答えているのではなく、学習した大量の文章の傾向から、次に続きやすい語をつないで文を組み立てています。正しい回答も誤った回答も同じ落ち着いた調子で出てくるのは、このためです。

誤りは「確かめる語」に集まる

誤りが入りやすいのは、文章の言い回しよりも、事実を名指しする語です。業界を問わず、次の4種類に分けておくと確認の対象を絞れます。

反対に、手元の文章の要約、言い換え、敬語の整え方のように、渡した文章を材料にする作業では、AIが事実を新しく持ち込む余地は小さくなります。確認の手間をかける場所は、この4種類の語に絞れます。

GoogleのAI回答にも「間違いが含まれている場合があります」と出る

Google検索のAIモードのヘルプには、AIの回答には間違いが含まれている場合があるという注意書きがあり、ウェブの内容を誤って解釈することがあるとも書かれています。検索結果の上に出るAIの回答でも、提供する側が誤りを前提にしています。そうである以上、AIの回答を使う会社の側に確認の段階が要ります。

総務省と経済産業省のAI事業者ガイドライン（第1.2版・2026年3月公表）でも、生成AIで目立つようになったリスクとして、ハルシネーションと、誤った情報をそのまま信じてしまうことが並べて挙げられています。2つのうち、会社が仕組みで減らせるのは、確かめずに使う側のリスクです。

AIの誤りは、どの書類に乗って社外に出るのか

AIの誤りが会社の問題になるのは、社外に出た時点です。社内のメモで止まっていれば直して終わりですが、提案書、見積、取引先へのメール、Webの記事に乗ると、会社の発信として扱われます。「AIがそう答えたので」は、取引先への説明になりません。

AIの回答は、すでに日常の書類に入っている

令和8年版情報通信白書（2026年7月）が2026年1月から2月に行った企業向けの調査では、自社の何らかの業務で生成AIを利用していると答えた日本の企業は、回答した477社のうち86.4%でした。使い道として最も多かったのは議事録・メール作成補助で、約7割です。メールは作成者が自分の判断で送れる書類なので、上長の目を通らずに社外に出る経路でもあります。

同じ白書では、生成AIによる業務変革について「組織的な取組はない」と答えた日本の企業が回答497社の27.0%で、調査した4か国の中で最も高い割合でした。使う人は増えたのに、誰が何を確かめるかを会社として決めていない状態が、この2つの数字の間にあります。

行き先ごとに、誤りが出たときの重さが違う

同じ誤りでも、乗った書類によって訂正の重さが変わります。

名前を出した会社が、説明を求められる

AI事業者ガイドラインには、生成AIが事実と異なる話を広めたとして、テレビ番組の出演者がAIの開発・提供会社を名誉毀損で訴えた例が載っています。訴えられたのはAIを提供した側でした。ただ、AIの回答を自社の名前で書類にして出せば、説明を求められるのは出した会社です。

社外に出た後の初動は生成AIのインシデント初動対応の記事で扱っています。

ファクトチェックは誰がどこでするか：回答を書類にする6段階と3つの確認

ファクトチェックは、作成者の注意力に任せる作業ではありません。書類の流れのどの段階に、誰の確認を置くかを決める作業です。取引先への提案書を例に、いまの流れを6段階に分けると、事実を確かめる段階がどこにも無いことが見えてきます。

いまの流れ：事実を確かめる段階が無い

抜けるのは段階3と4です。段階3では、作成者が自分の書いた文として読み返すので、大部分が正しい文の中にある1語の誤りが目に入りにくくなります。段階4の承認は、上長が体裁と金額を見る場で、AIの回答の出所までは見ません。段階6では、どの語をどこから持ってきたかの記録が無いため、訂正の範囲を決めるところから始めることになります。

確認を置いた流れ：同じ段階番号に3つの確認を足す

段階3に作成者の突き合わせ（確認①）、段階4に別の人の確認（確認②）を足し、段階3で残した原典の控えを段階6で使います（確認③）。

増える作業は、段階3の突き合わせと、段階4の別の1人の確認です。段階2でAIに社内の資料や原典のPDFを渡して答えさせておくと、段階3で突き合わせる先が最初から手元にそろいます。AIが返すのは下書きと根拠の箇所までで、事実として社外に出してよいかの確定は人に残ります。

段階4の別の1人は、提案書の全文を読み直しません。見るのは印の付いた語と、その原典の該当ページだけです。全文の読み直しを求めると承認の待ちが長くなり、やがて誰も読まなくなります。

人に残す判断と、その根拠

次の5つは人が決めます。括弧内がその根拠です。

• 数字を書類に載せるかどうか：取引先が判断の材料にする数字は、提案の前提になるため（責任）
• 相手の会社名・人名・役職の表記：相手との関係に直接関わり、AIが学習した時点より後に変わることがあるため（信用）
• 金額・期日・支払条件：合意の中身になり、誤ると取引の条件として残るため（契約・金額）
• 法令やガイドラインの条番号と文言：改正で変わり、存在しない条文が混ざると説明できないため（法令）
• 社外に出すかどうかの最終の判断：会社の名前で出す書類の責任は、作成した人と承認した人にあるため（責任）

AI事業者ガイドラインのAI利用者向けの別添でも、人間が判断すべき項目を事前に明確化しておくことが求められています。上の5つを書類の種類ごとに先に決めておくのが、この段階の作業です。

質問の出し方で減らせる誤りと、減らせない誤り

質問の出し方を変えれば誤りは減りますが、無くなりはしません。減らせる誤りと残る誤りを分けると、確認の手間をどこに残すかが決まります。

減らせる誤り：材料を渡し、範囲を絞る

何も渡さずに聞くと、AIは学習した文章の傾向だけで答えを組み立てます。社内の資料や原典のPDFを渡し、「この資料に書かれている範囲で答える」「書かれていなければ、書かれていないと答える」と範囲を決めると、作り話の入る余地は小さくなります。AI事業者ガイドラインでも、参照する情報源を指定して答えさせる仕組み（RAGなど）が、ハルシネーションを抑える技術として挙げられています。

聞く範囲を狭めることも効きます。「業界の動きを教えて」と聞くより、「渡した2つの資料に載っている数字だけを、ページ番号つきで抜き出して」と聞く方が、AIが自分で埋める隙間は狭くなります。

減らせない誤り：材料の外と、新しい情報

下の3行は、どれだけ丁寧に聞いても残ります。AIが出典を示しても、その出典自体が実在しないことがあるため、URLを開いて該当の箇所を読むところまでが確認です。

別のAIに同じことを聞いて比べても、2つのAIが同じ誤りを返すことがあります。AI同士の照合は怪しい語を見つける補助で、原典を読む代わりにはなりません。

AIに確認を手伝わせるなら、印をつける作業まで

確認の作業のうち、AIに任せられる部分もあります。書類の本文から数字・固有名詞・日付・条文や引用を抜き出して一覧にする作業は、判断を含まないのでAIに向いています。抜き出された一覧の1語ずつを原典で確かめるのは人です。一覧から漏れた語が無いかも、作成者が本文と見比べて確かめます。

社内に「裏取り」を根づかせる体制と、社内だけで決めきれない境目

裏取りを根づかせるのは個人の心がけではなく、書類の行き先ごとに「誰が・何を・どこまで見るか」を決めた1枚の表です。

書類の行き先で確認の深さを4段に分ける

取引先へのメールは段2ですが、1日に10通を超えることもある書類なので、全通に別の人を付けると回りません。AIの回答から数字や固有名詞を写したメールだけを段2とし、言い回しを整えただけのメールは段1として扱う分け方が現実的です。

決めきれない点が1つあります。段2の別の人を上長にするか、同じ部署の担当にするかです。上長にすれば承認と確認が1回で済みますが、承認の場が体裁の確認に戻りやすくなります。同じ部署の担当にすれば確認は丁寧になる一方、1件ごとの待ちが増えます。どちらが合うかは段2に入る書類の月の件数で変わるので、60日ほど運用して件数を見てから決める方が無難だと考えています。

確認②の手間は、前提の数を置いて見積もる

前提として置く数で見ます。段2の提案書が月20件、1件に印の付く語が10語あるとすると、確認②の担当が見るのは月200語です。1語を原典で確かめるのに1分かかるとすれば月200分、確認②を2人で分ければ1人あたり月100分、週にならして25分ほどです。この数は効果の見込みではなく、担当の時間を空けておく目安です。自社の数は、最初の30日に段2の件数と印の語の数を数えて置き換えてください。

月に1回見る指標は3つ

2つ目の指標を見ると、誤りがどの種類の語に寄っているかが分かります。数字の直しが多ければ段階2で渡す資料を見直し、日付の直しが多ければ公式の発表を見る手順を先に固めます。測る数字は自社の書類で取り、他社の割合を目安にしないでください。

確認②を付けない方がよい書類と、始める前に決めること

すべての書類に確認②を付ける必要はありません。手元の文章の要約や敬語の整え方のように、AIが事実を新しく持ち込まない作業は段1で足ります。全部に付けると確認が形だけになり、肝心の段3と段4まで同じ形だけの確認になります。

始める前に決めるのは、段2以上に当たる書類の一覧と、確認②を受け持つ人の名前の2つです。一覧が無いまま「AIを使ったら確認すること」とだけ通知しても、何を確かめたかの記録が残らず、問い合わせを受けたときの段階6が探し直しになります。AIに入れてはいけない情報の線引きは生成AIの情報漏洩リスクの記事、誰がいつ何を聞いたかの残し方は生成AIの利用ログ管理の記事で扱っています。

社内だけで決めきれない境目

社内だけで体制を作ろうとすると、詰まりやすい点が3つあります。重いのは書類の一覧づくりです。部署ごとに出している書類の種類が違い、どれが段2でどれが段3かを1人で決めると、ほかの部署の書類が抜けます。

確認②を受け持つ人の負担の配り方も詰まります。経理や法務の担当が段3の書類を全社分見ることになると、本来の仕事が止まります。AIに渡してよい資料の範囲は、入力のルールと一緒に決めないと、段階2で資料を渡す運用そのものが始められません。

3つのうち2つに当てはまるなら、書類の一覧と4段への振り分けだけを社外の目を入れて決め、日々の確認と月1回の指標の確認は社内に残す分け方があります。体制全体の組み方はAIガバナンス体制の組み方の記事、年に1回の点検の項目は生成AIの監査チェックリストの記事にまとめています。

ビフォーアフター：送信前の3つの確認を入れると、提案書の確認はこう変わる

使うAIも、提案書を作る担当も変わりません。違うのは、印の付いた語と原典の控えが提案書と一緒に残るかどうかです。上長の承認の場は、全文を読み直す時間から、印の語を原典で確かめる短い確認に変わります。社外に出すかどうかの最終の判断は、どちらの場合も作成者と上長に残ります。

2026年10月