AIの誤情報とは、生成AIがもっともらしい文章で事実と違う内容を答えてしまうことで、ハルシネーションとも呼ばれます。起きる理由の1つは、AIが分からないときにも推測で答えを組み立ててしまう仕組みだと考えられており、工夫次第で減らすことは出来ても、完全になくすことは出来ません。会社の文書で困らないためには、数字・固有名詞・日付に印を付け、一次資料と出典を人が開いて確かめる手順を決めておくのが近道になります。

AIを会社で使うときのリスクの全体像は、AIの問題点とは？会社で今起きるリスクと、誰が何で防ぐかで整理しています。このページでは誤情報だけに絞り、会社の文書に紛れ込む仕組みと確かめ方を見ていきましょう。

AIの誤情報（ハルシネーション）とは｜もっともらしい誤り

AIの誤情報は、AIがうそをつこうとして出てくるものではなく、文章としては自然なのに中身が事実と合わない答えのことです。AIの研究や解説では、この現象をハルシネーション（幻覚）と呼ぶことが多くなっています。文章が整っているぶん、読み手が誤りに気づきにくいところが厄介な点になります。

提供元の側も、この弱点を認めています。OpenAIはChatGPTを紹介した記事「Introducing ChatGPT」で、もっともらしく聞こえるものの、誤っていたり意味をなさなかったりする答えを書くことがあると、限界の1つに挙げていました。国内では、総務省の資料「生成AIはじめの一歩」が、西日本で最も高い山のTOP10を尋ねた例で、実在しない山の名前や不正確な標高が混ざることを紹介しています。飲食店を尋ねた例では、存在しないお店や、場所がまったく違うお店が答えに含まれることもあるとされます。

会社のリスクとしての扱いも大きくなってきました。IPA（情報処理推進機構）の「情報セキュリティ10大脅威 2026」では、組織編の3位に「AIの利用をめぐるサイバーリスク」が初めて選ばれています。その解説書は、対話型AIが「架空の情報をあたかも事実として生成し、利用者に提示することがある」と書き、結果をうのみにせず精査するよう利用者に促しました。

なお、AIの誤情報という言葉は、SNSで広がる偽・誤情報や、AIの回答の中で自社が間違って紹介される話を指して使われることもあります。このページで扱うのは、社員がAIに書かせた文章に誤りが紛れ込み、それが会社の文書として外に出てしまう場面です。

AIの誤情報はなぜ起きるのか｜4つの仕組み

AIの誤情報は、分からないときでも推測で答えを作ってしまう性質に、学習データの限りや指示のあいまいさが重なって起きます。仕組みを知っておくと、文書のどこを疑えばよいか見当を付けやすくなります。

仕組み1：分からなくても推測で答えてしまう

2025年9月にarXiv（論文の公開サイト）へ投稿されたKalai氏らの論文「Why Language Models Hallucinate」は、言語モデルを難しい試験問題に向き合う学生にたとえています。分からないときに分からないと答えず、推測でもっともらしい答えを書いてしまうという見立てです。論文は、学習と評価の仕組みが、分からないと認めるより推測して答えることを評価してしまうためだ、と主張しています。正しい文と誤った文を見分けられない問いでは、統計的な圧力として自然に誤りが生まれる、という説明もあります。論文の公開サイトへの投稿という位置づけですが、もっともらしい誤りが出てくる理由を知る手がかりにはなるでしょう。

仕組み2：学習データが不正確だったり偏っていたりする

総務省の「生成AIはじめの一歩」は、偽・誤情報が増える原因として、学習データが不正確だったり偏っていたりする可能性を挙げています。同じ資料は、裏付けのない回答をする場合があること、正確なデータを学習したとしても出力される情報が正しくない可能性があることにも触れており、データをきれいにすれば済む話ではないと分かります。

仕組み3：新しい情報や社内の情報を知らない

AIのモデルには、学習データをどの時点まで集めたかという区切り（ナレッジカットオフ）があり、それより後の出来事は知りません。法改正や料金の改定のように最近変わった話ほど、古い内容のまま答えてしまうおそれが出てきます。社内の規程や取引先との約束も、AIに渡していなければ、AIには知りようがないのです。それでも聞かれれば答えようとするため、世の中によくあるルールをもとにした、もっともらしい社内ルールが出てきてしまうことになります。

仕組み4：指示があいまいで条件が足りない

いつ時点の話か、どの国の制度か、どの資料を元にするかを書かずに聞くと、AIは足りない条件を推測で埋めて答えます。IPAの10大脅威の解説書も、AIが利用者の指示を正確に反映した結果を出すとは限らないと理解することを、従業員向けの対策に挙げています。指示の書き方で減らせる部分は、後半の指示文のひな形を参考にしてみてください。

会社の文書で起きた誤情報の例｜報告書・案内・裁判書類

AIの誤情報は、すでに会社の報告書や顧客向けの案内、裁判所に出す書類、出版物の中で見つかっています。どれも、AIが書いた部分を確かめきれないまま外に出してしまった点が共通点となります。事件の一覧はAI事件の事例にまとめているので、ここでは文書の誤りに絞って見ていきましょう。

政府向け報告書に実在しない文献（Deloitteオーストラリア・2025年）

ニュースサイトのThe Registerは2025年10月6日、Deloitteのオーストラリア法人が同国の雇用・職場関係省に納めた報告書について、実在しない報告書への引用や、連邦裁判所の判決から作られた引用が指摘されたと報じました。契約額は44万豪ドルで、改訂版では12件を超える誤った参考文献や脚注が削除され、手法の節にはAzure OpenAIのGPT-4oをもとにしたツールを使ったと記載されたとされます。返金は約9.8万豪ドルで契約額の4分の1未満だったと、上院の予算審査での説明として豪州緑の党が公表しています。

企業のAI活用を紹介した報告書の取り下げ（KPMG・2026年）

TechCrunchは2026年6月13日、KPMGが2025年10月に公表した報告書「Redefining excellence in the age of agentic AI」について、UBS、英国のNHS、スイス連邦鉄道、ロンドン交通局が自組織のAI活用の記述は事実でないか誤解を招くものだとFT（フィナンシャル・タイムズ）に答え、KPMGが調査の間、報告書をサイトから削除したと報じました。誤りについては、調査会社がAIのハルシネーションによるものだとFTに述べたとされ、KPMG側はAIを使ったかどうかに触れていません。

会社サイトのチャットボットの誤案内（エア・カナダ・2024年）

カナダのブリティッシュコロンビア州の紛争解決機関（Civil Resolution Tribunal）は2024年2月14日、エア・カナダのサイトのチャットボットが運賃を誤って案内した件で、会社に支払いを命じました。チャットボットは、忌引き運賃は搭乗後90日以内に申請すれば適用されると案内しましたが、実際の規程は搭乗後の申請を認めていませんでした。決定によると、会社は自社サイトの情報すべてに責任を負い、それが固定のページかチャットボットかで違いはないとされ、合計812.02ドルの支払いが命じられています。

存在しない判例を引用した裁判書類（米国・2023年）

米ニューヨーク南部地区連邦地裁は2023年6月22日、ChatGPTが作った存在しない判例と偽の引用を含む書面を提出し、裁判所に存在を疑われた後もその判例を主張し続けた弁護士らに制裁を科しました。制裁命令によると、弁護士2人と所属事務所は連帯で5,000ドルの制裁金を支払うことになりました。命令は、AIを使うこと自体を問題にしたのではなく、書類の正確さを確かめる門番の役割は提出する側にある、と述べています。

人の確認を通しても残った誤り（福岡つながり応援・2024年）

J-CASTニュースは2024年11月11日、民間のファーストイノベーションが運営する福岡県の地方創生キャンペーン「福岡つながり応援」で、生成AIで作った記事に存在しない施設などの誤った情報が載っていたと報じました。公式Xは11月7日に謝罪し、生成AIを活用して記事を作り、人の確認を経て発信してきたと説明しています。運営側は記事をすべて削除して配信を一時停止し、今後は正確な情報収集の徹底や、複数人による確認体制の強化に取り組むとしました。人が目を通していても、何をどう確かめるかが決まっていなければ、誤りは残ってしまいます。

出版物の回収・絶版（国内・2026年）

RBC琉球放送は2026年10月29日、琉球大学の教授が生成AIから示された誤情報に基づいて、事実と異なる内容を著書に記載していたと報じました。出版社は内容の一部に事実と異なる記述があるとして回収・絶版を発表し、大学は年内に生成AIの利用について新しいガイドラインを作るとしています。報道によると、新しいガイドラインはこれまでの2倍ほどの文量になる見込みです。

誤情報が会社にもたらす損失｜責任は出した側に残る

AIが書いた誤りでも、外に出した時点で責任を問われるのは、会社や書類を出した本人になります。エア・カナダの件では、チャットボットの案内もサイトの情報の1つとして会社の責任とされました。米国の制裁命令も、正確さを確かめる役目は書類を出す弁護士にあるという立場でした。

損失は、まずお金の形で表れることがあり、報告書の返金や支払いの命令がそれにあたります。次に信用で、取引先や顧客から、この会社の文書は確かめないと使えないと見られてしまいます。さらに手間の面では、記事の全削除や報告書の取り下げのように、出したものを回収して作り直す仕事が増えることになります。社内向けの資料でも、誤った数字や古い制度をもとに決めてしまうと、後から取り返すのに時間がかかってしまいます。

会社の側も、この危うさは感じています。日本情報システム・ユーザー協会（JUAS）の「企業IT動向調査報告書2026」では、言語系の生成AIを導入するときの課題として、ハルシネーション・信頼性を挙げた会社が66.4%で、機密情報の流出（70.1%）に次ぐ2位でした。調査は2025年9〜10月に東証上場企業とそれに準じる企業のIT部門長を対象としたもので、957社が回答しています。中小企業だけの数字ではありませんが、誤情報が情報漏洩と並ぶ心配ごとになっている様子がうかがえるでしょう。

社内文書で誤りが入りやすい5つの型｜議事録・見積・規程

会社の文書でAIの誤りが入りやすいのは、数字・固有名詞・日付・条件・出典が並ぶところです。ここで挙げる5つの型は公的な分類ではなく、確かめる場所を決めるための目安として整理したものになります。

型1：議事録・要約で、決まったことが変わる

会議のメモや長いメールのやり取りをAIに要約させると、検討しただけの案が決定事項として書かれたり、担当者や期限が入れ替わったりするおそれがあります。要約は元の文より短いぶん、元に戻って照らし合わせる人が少なく、誤りがそのまま回覧されやすくなってしまいます。決定事項・担当者・期限の3点だけは、元の記録と突き合わせてから配るようにしましょう。

型2：見積書・契約書の数字や条件の取り違え

金額、数量、税込か税抜か、支払期日、契約期間のような数字や条件は、表の読み違いや似た案件との混同が起きると、そのまま文書に残る部分です。桁が1つずれても文章としては自然に読めるため、読み手は気づきにくくなります。元の見積書や契約書を横に置き、数字を1つずつ指で追うように照らし合わせてみてください。

型3：法令・制度・補助金の名前や条件

法律の条文番号、制度や補助金の名前、申請の期限や対象は、存在しない名前が混ざったり、改正前の古い条件のまま答えたりしやすい部分になります。総務省の資料で実在しない山や店が答えに混ざった例と同じことが、制度の名前でも起こり得ます。官公庁や制度を運営する機関の公式ページで、名前・条件・期限が今もそのとおりかを確かめることが欠かせません。

型4：社内規程・社内ルールの答え

就業規則や経費精算のルールをAIに聞くと、AIがその会社の規程を読んでいない限り、世の中によくあるルールをもとにした答えが返ってきます。エア・カナダの件のように、規程と違う案内を顧客に出せば、会社の案内として扱われてしまいます。社内文書を参照させる場合も、古い版の規程が混ざっていないかを先に確かめましょう。

型5：出典・引用・参考文献

報告書や提案書の参考文献、法令や判例の引用、調査の数字の出典は、Deloitteや米国の弁護士の件のように、実在しない文献や判例が書かれてしまうことがある部分です。出典が付いていても、出典そのものが作られている場合があるため、リンクを開いて中身まで見る必要があります。

AIの誤情報の確かめ方｜印を付けてから一次資料へ進む5つの手順

AIの出力を確かめるときは、全文を読み直すより先に、確かめるべき箇所に印を付けてから一次資料に当たると、漏れなく進められます。ここで紹介する手順は公的な基準ではなく、会社の文書で使いやすいように組んだ目安になります。

手順1：数字・固有名詞・日付に印を付ける

AIが書いた文章をそのまま読み始めず、まず数字、人名・会社名・制度名などの固有名詞、日付、引用や出典の4種類に色を付けていきます。文章の流れに乗って読むと、整った文に引っ張られて誤りを見落としがちになるためです。印を付ける作業は、AIに任せず人の目で進めましょう。

手順2：一次資料と突き合わせる

印を付けた箇所は、AIの答えではなく、元になる資料で確かめます。一次資料とは、法令なら法令の原文や所管官庁、制度なら運営する機関の公式ページ、社内の数字なら元の見積書や議事録、他社の情報ならその会社の公式発表のように、情報を最初に出した側の資料のことです。まとめサイトや別の記事の引用は、それ自体がAIで書かれていることもあるので、一次資料の代わりにはなりません。

手順3：出典のURLを開き、実在と中身を確かめる

AIが示した出典は、リンクを実際に開き、そのページやファイルが存在するか、書かれている内容が本文の主張と合っているかを見てください。題名だけは実在していて、中身は違うことを言っている場合もあるため、該当する文を探して読むところまで進めると安心です。存在しない判例が裁判所に出た米国の件は、この手順を飛ばすと何が起きるかを示す例になるでしょう。

手順4：別のAIには、判定ではなく食い違い探しを頼む

同じ質問を別のAIにもしてみると、答えが食い違う箇所が見つかり、そこが重点的に確かめる場所になります。ただし総務省の「生成AIはじめの一歩」は、生成AIが偽・誤情報を回答するおそれがあることから、生成AIに真偽を問うのは適切ではないとしています。別のAIが正しいと言ったから正しい、とはせず、挙げた根拠を一次資料で確かめましょう。

手順5：確かめた人と資料を記録する

最後に、誰が・いつ・どの資料で確かめたかを、文書の版と一緒に残しておきます。後から誤りが見つかったときに、どこまで確かめていたかを説明でき、同じ漏れを繰り返さない手がかりにもなります。記録といっても、文書の末尾や共有フォルダのメモに1行残すだけで構いません。

誤りを減らす指示文の書き方｜材料を渡し、分からないと言わせる

指示文に条件を足すと、AIが推測で埋める余地を小さくでき、誤りを減らしやすくなります。それでもなくすことは出来ないので、5つの手順による確かめは、指示文を工夫した後も続けてください。

効きやすいのは、材料を渡してその範囲だけで答えさせる書き方と、分からないときは分からないと書かせる書き方です。Kalai氏らの論文の見立てに立てば、AIは推測で答えるほうが評価される仕組みの中で作られてきたため、分からないと答えてよいと明示しておくのは理にかなっています。日付や対象の国、使ってよい資料も指示文に書いておけば、推測で埋める部分は減っていくでしょう。

次の【資料】だけを使って、【依頼】に答えてください。

・資料に書かれていないことは推測で補わず、「資料に記載なし」と書いてください。
・分からないときは、分からないと答えてください。
・数字、固有名詞、日付を書いた文には、資料のどこに書いてあるか（ページや見出し）を添えてください。
・今日の日付は（　年　月　日）です。対象の国は日本です。
・最後に、人が確かめるべき箇所を箇条書きで挙げてください。

【依頼】
（例：この議事録から、決定事項・担当者・期限を抜き出してください）

【資料】
（ここに議事録や規程の本文を貼り付ける）

Web検索を使えるAIに調べさせるときは、出典のURLを必ず添えるよう指示に加えると、手順3の確かめにすぐ移れます。ひな形は社内で共有し、誰が使っても同じ条件で聞ける形にしておきましょう。

社内文書を参照させる方法（RAG）の効き目と限界

RAG（検索拡張生成）は、AIに社内の規程やマニュアルを検索させ、その中身をもとに答えさせる仕組みのことです。学習データに無い社内の情報を元に答えられるようになり、仕組み3の知らないことによる誤りを減らせます。それでも、参照させる文書の質が悪ければ、誤った答えは出てしまいます。

「テキスト生成AIの導入・運用ガイドライン」が挙げる注意点

IPA産業サイバーセキュリティセンターの中核人材育成プログラム7期生がまとめた「テキスト生成AIの導入・運用ガイドライン」（2024年7月）は、RAGに入れる情報にノイズが含まれていたり、重複していたり、最新版ではない古い情報だったりすると、ハルシネーションや誤った回答が起きると説明しています。この資料はプロジェクトの成果物で、IPAの見解を代表するものではないと断り書きがあります。同じ資料は、RAGをハルシネーションの軽減策の例に挙げつつ、完全に解消することはできないため、利用者に重ねて周知することが大切だとしました。

参照させる前に整える3つのこと

規程やマニュアルを入れる前に、古い版を外す、同じ内容の文書を1つにまとめる、文書ごとに改定日を書いておく、の3つを済ませておきましょう。答えに参照した文書名を出させる指示を加えれば、手順2の突き合わせも早くなります。RAGを入れたから確かめなくてよい、とはならない点は押さえておきたいところです。

人が確かめる体制｜文書が出る範囲で深さを分ける

人の確認は、すべての文書に同じ重さでかけると続かないため、文書が外に出る範囲で深さを分けるのが現実的です。ここでの3段階も、運用の目安として示したものになります。

段階1：社外に出る文書（報告書・提案書・顧客への案内・公開記事）

5つの手順をすべて済ませ、書いた本人とは別の人がもう一度確かめます。福岡の件でも、再発防止として複数人による確認体制の強化が挙げられていました。ファクトチェック（事実の確認）を担う人をあらかじめ決めておくと、確認が抜ける日をなくしやすいでしょう。

段階2：社内で判断に使う文書（会議資料・稟議・社内向けの要約）

数字・固有名詞・日付は手順2まで済ませ、出典のある主張は手順3で開いて確かめましょう。判断の根拠になる数字が誤っていると、決めた後で取り返すのに時間がかかってしまいます。

段階3：下書き・アイデア出し・自分だけのメモ

文章のたたき台や言い換えの案など、そのまま外に出さない使い方なら、深く確かめなくても困る場面は少ないでしょう。下書きがそのまま社外の文書に使われるときは、段階1の確かめに戻す必要があります。

完全には防げないという前提で運用する

人工知能戦略本部が令和7年（2025年）12月19日に決定した指針は、誤判断やハルシネーションを技術的なリスクの例に挙げ、AIを使う範囲や条件は人が最終的に判断するという考え方を示しています。法律上の義務を定めたものではありませんが、会社の運用でも、最後に責任を持つのは人という前提に立つと考えやすくなります。誤りは残るものとして、見つかったときの直し方と連絡先まで先に決めておきましょう。

AIの出力を使う前の社内ルールのひな形

社内ルールは、使ってよいかどうかだけでなく、出力をどう確かめてから使うかまで書いておくと、現場が迷わなくなります。次のひな形は公的な基準ではなく、運用の目安として作ったものです。会社の実情に合わせて言葉を直し、（　）の中を埋めて使ってみてください。

生成AIの出力を使うときの確認ルール（ひな形）

1. 対象
　生成AIが作った文章・数字・表を、社外に出す文書、または社内の判断に使う資料に入れる場合に適用する。

2. 確かめる箇所
　数字、固有名詞（人名・会社名・制度名・法令名）、日付、引用・出典の4種類に印を付け、すべて確かめる。

3. 確かめ方
　印を付けた箇所は、一次資料（官公庁・運営機関・発表元の公式資料、社内の原本）と突き合わせる。
　AIが示した出典は、リンクを開いて実在と内容を確認する。
　別のAIの答えは食い違いを見つける目的に限って使い、正誤の判定には使わない。

4. 確認する人
　社外に出す文書は、作成者のほかにもう1人が確認する。
　社内の判断に使う資料は、作成者が確認する。

5. 記録
　確認した人・日付・使った一次資料を、文書の版とあわせて（保存場所）に残す。

6. 使ってよいAIと入力してよい情報
　会社が認めたAIサービスだけを使う。
　入力してよい情報の範囲は、別に定める生成AI利用ガイドラインに従う。

7. 誤りが見つかったとき
　気づいた人は、文書の作成者と（担当部署）へすぐに連絡する。
　社外に出た後であれば、訂正の要否と方法を（責任者）が決める。

8. 見直し
　このルールは（半年）ごとに見直す。

6の入力してよい情報の決め方は、生成AIの社内ガイドラインの作り方で紹介しています。会社が認めていないAIを社員が個人で使う問題は、シャドーAI（野良AI）の記事が参考になるでしょう。

社外に出す前のチェックリスト

AIの出力を含む文書を社外に出すときは、送る前に次の項目を1つずつ確かめてみてください。1つでも当てはまらない項目があれば、5つの手順に戻って確かめ直しましょう。

• 数字に印を付け、元の資料と1つずつ照らし合わせた金額・数量・割合に加え、税込か税抜か、単位まで見ます。
• 人名・会社名・制度名・法令名が実在し、表記も合っている公式ページで名前と表記を確かめます。
• 日付・期限・条件が今も有効だと確かめた法改正や制度の改定で変わっていないかを見ます。
• 出典のURLを開き、本文の主張がそこに書いてあると確かめたリンクが開けても、該当する文が無ければ出典として使いません。
• 社内規程に触れる箇所は、最新版の規程と照らし合わせた古い版を参照した答えになっていないかを見ます。
• 議事録・要約は、決定事項・担当者・期限を元の記録と突き合わせた検討中の案が決定事項になっていないかを確かめます。
• 別のAIとの食い違いは、一次資料で決着をつけたAIどうしの多数決では決めません。
• 作成者以外の人が確認し、確認者・日付・資料を記録した後から誤りが見つかったときに、どこまで確かめたかを説明できるようにします。

入力してよい情報の扱いなど、セキュリティ面の点検項目は生成AIのセキュリティ対策チェックリストにまとめています。

確かめる手順を会社で続けるための環境づくり

確かめる手順は、社員がそれぞれ別のAIを個人の契約で使っている状態だと、そろえるのが難しくなってしまいます。誰がどのAIで何を作ったかが見えないと、誤りが見つかったときに、どこまで広がっているかもたどれません。会社が認めたAIの環境を用意し、同じ手順を同じ画面で回せるようにしておくと、確かめが続きやすくなります。

複数のAIを1つの契約で使える環境なら、手順4の食い違い探しも、別のサービスにログインし直さずに出来ます。よく使う指示文を社内で共有できる機能があれば、指示文のひな形を全員が同じ形で使えるようになるでしょう。社内文書を参照させる機能を使う場合も、古い版の規程を外してから入れるという注意は変わりません。管理者が利用ログを見られる環境なら、誤りが出た文書をたどる手がかりにもなります。

AIごとの得意な使い方の違いは主要4AIの違いと使い分け、複数のAIを1つの環境で使う形はマルチAIとはで詳しく紹介しています。

よくある質問

まとめ

AIの誤情報は、AIが分からないときにも推測で答えを作ってしまう性質（Kalai氏らの論文の見立て）に、学習データの限りや新しい情報・社内の情報を知らないこと、指示のあいまいさが重なって起きます。政府向けの報告書や会社サイトのチャットボット、裁判書類、出版物でも誤りが見つかっており、責任はAIではなく出した側に残ります。

指示文の工夫や社内文書の参照で減らすことは出来ても、なくすことは出来ません。数字・固有名詞・日付に印を付け、一次資料と突き合わせ、出典のURLを開き、別のAIは食い違い探しに使い、確かめた記録を残す、という5つの手順を社内ルールにしておきましょう。社外に出す文書には、チェックリストと別の人の確認まで加えてみてください。

法人のAI活用に関する他の記事はAI活用コラム一覧にまとめています。