AIインシデントが社内で起きたら？分類と対応手順

社内でAIインシデントが起きたら、気づいた社員がその場で入力や共有を止めて窓口へ知らせ、総務・情シスの担当者が1時間以内に「いつ・誰が・どのAIに・何を入れ・誰に共有したか」を記録し、責任者が重大度と外部への報告の要否を決める、という順番で動くことになります。個人データが関わるときは、個人情報保護委員会への報告に当たるかを、発覚から3〜5日という速報の目安に間に合うよう確かめる必要があります。平時に決めておくのは、報告の窓口と責任者、そして会社が使うAIの記録を見られて止められる状態の3つでしょう。事例の一覧は生成AIの情報漏洩事例、リスクの全体像は生成AIのセキュリティの記事にまとめているので、ここでは起きたあとの動き方に絞ってお伝えします。

AIインシデントとは｜OECDの定義と国の整理

AIインシデントとは、AIの開発や使用、誤作動がきっかけとなって、人や財産、権利などに被害が出た出来事を指す言葉です。AI品質マネジメントイニシアティブ（AIQMI）の「2025年度AIインシデント事例集」（2026年3月31日）は、OECDが2024年に示した定義を基にした参考訳を載せています。

そこで被害として挙がっているのは、人の健康への被害、重要インフラの混乱、人権や知的財産権などを守る法令上の義務への違反、財産・地域社会・環境への被害の4つになります。社内で気をつけたいのは、ここでいう使用に、本来の目的から外れた使い方や、うっかりの誤用、わざとの誤用まで含まれている点でしょう。

社員が顧客の情報をAIに入れてしまった、AIの誤った答えをそのまま取引先に送ってしまった、という身近な出来事も、被害につながるおそれがあれば社内ではAIインシデントとして扱うと動きやすくなります。ただし事例集自身も、AIインシデントの表現や定義はガイドラインなどによって異なると断っています。

国の機関も「起きる前提」で整理している

AIセーフティ・インスティテュート（J-AISI）が2026年1月9日に公表した「AIインシデントレスポンス・アプローチブック」は、AIではゼロリスクの達成が難しいという前提に立ち、起きたときの被害を小さくする枠組みを示しました。中心にあるのは、AIの状態やデータの流れを把握できる程度を表す観測性と、人がAIを止めたり変えたりできる程度を表す制御性の2つです。

この2つを軸に、両方ができる理想状態、見えるのに止められない制御不足状態、止められるのに見えない観測不足状態、どちらもできない非管理状態の4つに分け、非管理状態を「最も危険な状態」と位置づけています。もともとはAIを作って提供する事業者向けの資料ですが、考え方はAIを使うだけの会社でも借りることが出来ます。社員がどのAIに何を入れたか見えず、アカウントも止められない会社は、この非管理状態に近いところにいることになってしまいます。

※アプローチブックの想定読者はAIを扱う組織のマネジメント層、CSIRT・SOCなどの対応部隊、政策担当者で、中小企業向けの手順書ではありません。AIQMIの事例集には、産総研の公式見解を示すものではない旨が記載されています。いずれも2026年10月15日に公開資料を確認しました。

社内で起きやすいAIインシデントの5分類と動く人

社内で起きるAIインシデントは、入力・出力・権利・使われ方・アカウントの5つに分けておくと、誰が動くかをすぐ決められます。専任の担当者を置けない会社も多いので、ここでは総務・情シスの担当者と、社長や所長などの責任者の2人を軸に、最初に動く人・止める人・報告先を置いています。

分類1：機密・個人情報の入力（情報漏洩）

顧客名簿や見積書、顧問先の決算資料などを、会社が認めていないAIや個人のアカウントに入れてしまう出来事です。

• 最初に動く人：入力した本人（その場で続きの入力をやめ、窓口へ知らせる）
• 止める人：総務・情シスの担当者（共有リンクを止め、記録を確保する）
• 報告先：責任者。個人データが含まれていれば、個人情報保護委員会への報告に当たるかの確認へ進む

入れた内容が漏えいに当たるかどうかは、使ったサービスの規約と入れた中身で変わります。この時点では決めつけずに、記録を残すことを先にしてください。個人情報を入れてしまったときの細かな手順はAIに個人情報を入力してしまったときの対応にまとめています。

分類2：誤出力（ハルシネーション）による損害

AIがもっともらしい誤り（ハルシネーション）を答え、それを確かめないまま顧客への回答や資料に使ってしまう出来事になります。

• 最初に動く人：誤りに気づいた社員、または顧客対応の担当者
• 止める人：その業務の責任者（同じ出力を使った資料や回答を差し止める）
• 報告先：責任者。顧客に損が出ていれば、訂正と説明の段取りへ進む

後で紹介する航空会社の例のように、会社の窓口が出した答えは、AIが作ったものでも会社の責任として見られる場合があります。

分類3：著作権・知財の侵害

AIが作った文章や画像が他人の作品に似ていた、他社の資料をAIに読ませて作った物をそのまま公開した、という出来事です。

• 最初に動く人：公開や納品の担当者（公開を止める）
• 止める人：責任者（取り下げるかどうかを決める）
• 報告先：責任者から、必要に応じて弁護士へ相談する

似ているかどうかの判断は社内では難しいので、まず公開を止めて、元にした資料と使ったAIを記録しておきましょう。

分類4：想定外の使われ方・プロンプトインジェクション

プロンプトインジェクションとは、文書やWebページに紛れ込ませた指示で、AIに想定外の動きをさせる手口のことです。社外向けのチャットボットを置いている会社なら、本来の用途と違う使い方をされたり、決めたはずの応答のルールを聞き出されたりするおそれもあります。

• 最初に動く人：ボットやAI機能の管理者
• 止める人：同じ管理者（AI機能を切り離す、公開を止める）
• 報告先：責任者。外部の制作会社に頼んでいれば、その会社へも連絡する

AIQMIの事例集は、生成AIの機能を切り離しても業務を続けられるよう、前もって検討しておくことを望ましいとしています。

分類5：アカウントの不正利用

AIサービスのIDとパスワードを社員どうしで使い回していた、退職した方のアカウントが残っていた、身に覚えのないログインがあった、という出来事になります。

• 最初に動く人：気づいた社員、または総務・情シスの担当者
• 止める人：総務・情シスの担当者（パスワードを変え、アカウントを止める）
• 報告先：責任者。会話の履歴に顧客の情報があれば、分類1と同じ確認へ進む

アカウントを他人に使われると、それまでの会話の履歴に残っていた情報まで見られてしまいます。

5つのどれでも、社員が個人のアカウントで使っていると、会社からは履歴が見えず、アカウントを止めることも出来ません。社員が個人のChatGPTを業務で使っていたと分かったときの動き方は、社員が個人のChatGPTを業務で使っていたときの対応で詳しくお伝えしています。

事例集が取り上げた3つのAIインシデント

AIQMIの事例集は、AIを提供する側と使う側の両方から、実際に起きた出来事を取り上げています。事例集では社名を伏せていますが、ここでは出典の判決や報道で公表されている社名で紹介します。

航空会社のチャットボットが割引の条件を誤って案内した

カナダの航空会社Air Canadaのチャットボットが、遺族向けの割引を後からさかのぼって適用できると、誤って答えた事例です。カナダのCivil Resolution Tribunalは同社に損害賠償の支払いを命じ（Moffatt v. Air Canada, 2024 BCCRT 149）、事例集の参考訳では、静的なページでもチャットボットでも自社のウェブサイト上の情報には責任を負うべきだ、という判断が紹介されています。社外への回答をAIに任せている会社にとっては、誤出力がそのまま会社の案内として扱われうる、という教訓になります。

鉄道会社の問い合わせボットが想定外に使われた

台北MRTのカスタマーサービス用チャットボットで、プログラムのコードを書かせられることがSNSで広まり、想定外の使い方や、応答のルールを聞き出す試み、制約をすり抜ける試みが起きた事例です。事例集はINSIDEの2024年11月24日の報道を基に、この事例をまとめています。

新聞の特集に架空の本が並んだ

Chicago Sun-Timesの特集で、おすすめとして紹介した15冊のうち10冊のタイトルと説明が、虚偽または架空だった事例になります。特集は外部のコンテンツパートナーから提供されたもので、制作したフリーランスがその会社のポリシーに反してAIエージェントで作り、送る側も載せる側も事実を確かめないまま掲載されていました。AIを使う側の会社でも、確かめる工程が抜けると信用を落としてしまう、という例でしょう。

3つとも、出力を人が確かめる工程か、おかしいと気づいたときに止める手段のどちらかが弱いところで起きています。

最初の1時間・24時間・1週間でやること

起きた直後は止めることと残すこと、24時間以内に範囲をつかんで報告の要否を決めること、1週間で再発を防ぐ手を打つこと、の順に進めます。個人情報保護委員会のガイドライン（通則編）も、漏えい等が見つかったときの措置として、社内への報告と被害の拡大防止、事実関係の調査と原因の究明、影響範囲の特定、再発防止策、委員会への報告と本人への通知を挙げています。

最初の1時間：止める・残す・知らせる

1. 入力や共有をその場でやめ、画面を閉じる前に会話の画面を保存する
2. 総務・情シスの担当者へ、口頭かチャットで第一報を入れる
3. 共有リンクを作っていたら、リンク先と作った日時を控えてから削除する
4. 担当者がインシデント記録票（後で紹介するひな形）を開き、分かっていることだけを書き込む
5. 担当者から責任者へ、分かっている範囲で知らせる

慌てて会話そのものを消すと、何を入れたのかを後から確かめられなくなってしまいます。ChatGPTの場合、消した会話は戻せず、共有リンクは設定の「データ コントロール」にある共有リンクの管理画面から一覧と削除が出来ます。ただし共有リンクを消しても、元の会話や、受け取った人がその先で続けた会話までは消えません。ガイドラインも、責任ある立場の者に直ちに報告し、被害が発覚時より広がらないよう手を打つことを、最初の措置に置いています。

24時間以内：範囲をつかみ、重大度を決める

• 入力した内容に、個人データ・顧客の機密・パスワードなどが含まれるかを確かめる
• 使ったサービスとプラン（会社の契約か、個人のアカウントか）、学習に使う設定だったかを確かめる
• 出力や共有リンクを、社外の誰が見た可能性があるかを洗い出す
• 同じ使い方をしている社員がほかにいないかを確かめる
• 次の節の3段階で重大度を決め、責任者が外部への報告と相談の要否を判断する

個人データが関わる場合、法人ではいずれかの部署が事態を知った時点を基準に、報告の期限を数え始めます。総務がまだ知らなくても、現場の誰かが気づいた時点で時計は動き出している、と考えておきましょう。

1週間以内：原因を確かめ、再発を防ぐ

• なぜ会社が認めていないAIを使ったのか、本人を責めずに理由を聞く
• 入力してはいけない情報の決まりと、使ってよいAIの一覧を見直す
• 同じ部署の社員へ、起きたことと決まりの変更を伝える
• 速報を出した場合は、確報の準備を進める
• 記録票を閉じ、責任者が確認した日付を残す

使った理由を聞くと、会社が用意したAIでは仕事が回らなかった、という事情が見えてくることもあります。その場合は決まりを厳しくするより、使える環境をそろえるほうが再発を防ぎやすくなります。

重大度を3段階で見分ける

重大度は、個人データや顧客の情報を含むか、社外に出たか、まだ止められるか、の3つの問いで決めると迷いにくくなります。段階の名前と線引きは社内の決まりとして作るものなので、下の例を自社に合わせて書き換えてみてください。

段階3：すぐ責任者が判断し、外部への報告を確かめる

• 要配慮個人情報や、クレジットカード番号、送金や決済ができるサービスのIDとパスワードを含む個人データが、社外のサービスに入った、または社外に出たおそれがある
• 悪意のある第三者や社員による持ち出しのおそれがある
• 関わる本人が1,000人を超えるおそれがある
• 誤った出力が顧客に届き、金銭の損が出ている、または出そうになっている

この段階は、個人情報保護委員会への報告に当たるかを、その日のうちに確かめ始めたい状態です。迷ったら上の段階として扱い、調べてから下げるほうが安全になります。

段階2：24時間以内に範囲をつかむ

• 個人データや顧客の機密を、会社が認めていないAIや個人のアカウントに入れたが、段階3の条件には当たらない
• 誤った出力や、権利の疑いがある物が社外に出たが、損はまだ出ていない
• アカウントの使い回しや、退職した方のアカウントが見つかった

段階2は、調べていくうちに段階3へ上がることもあるので、記録票の重大度の欄は後から書き換えられるようにしておきましょう。

段階1：記録して、次の研修で共有する

• 誤った出力に社内で気づき、社外には出ていない
• 入力したのが、すでに公開されている情報だけだった

小さく見える段階1でも記録を残していけば、同じ間違いがどの部署で繰り返されているかが見えてきます。

個人情報保護委員会への報告に当たるかの確認点

個人データの漏えい等が起きた、または起きたおそれがあり、次の4つのどれかに当たるときは、個人情報保護委員会への報告と本人への通知が必要になります。

• 要配慮個人情報が含まれる個人データの漏えい等（高度な暗号化などで保護したものを除く）
• 不正に使われると財産的な被害が出るおそれのある個人データの漏えい等（クレジットカード番号や、送金・決済ができるサービスのIDとパスワードの組み合わせなど）
• 不正の目的で行われたおそれのある行為による漏えい等（行為の主には社員も含まれる）
• 本人の数が1,000人を超える漏えい等

期限は、速報が知ってから概ね3〜5日以内、確報が30日以内で、不正の目的のおそれがある場合の確報は60日以内とされています。日数は土日祝日も含めて数え、30日目や60日目が土日祝日や年末年始の閉庁日にあたるときは、その翌日が期限になります。速報の時点ですべて報告できれば、速報と確報を1回で兼ねることも出来ます。

AIに入れたことが、そのまま漏えいに当たるとは限らない

ガイドラインは、個人データが外部に流出することを漏えいとしていますが、AIへの入力がこれに当たるかどうかを直接は書いていません。当たるかどうかは、使ったサービスの規約（入力を学習に使うか、誰が見られるか）と、入れた中身によって個別に判断することになります。「AIに入れた時点で漏えい」とも「法人プランだから報告は不要」とも決めつけないでください。4つのどれかに当たるおそれがあるなら、報告の対象として準備を進めましょう。迷ったときは、個人情報保護委員会や弁護士に相談するのが確かです。

顧問先の個人データを預かる会計事務所の場合

顧問先から個人データの取扱いを任されている（委託を受けている）立場なら、報告対象事態では原則として委託元と委託先の双方に報告の義務があり、連名で報告することも出来ます。委託先が、把握している事項を委託元に知らせた場合は、委託先の報告と本人への通知の義務は免除されます。委託元への知らせも概ね3〜5日以内が目安なので、事務所で起きたら、顧問先への連絡を早めに段取りしたいところです。報告の窓口や様式は、個人情報保護委員会の漏えい等の対応とお役立ち資料のページで案内されています。

※個人情報保護委員会のガイドライン（通則編）は2026年10月13日、同委員会の漏えい等の対応のページは2026年10月15日に確認した内容です。個別の事案が報告対象に当たるかは、同委員会や弁護士にご確認ください。

社内報告とインシデント記録のひな形

第一報は短くてかまわないので、決まった形を用意しておけば、本人も報告をためらいにくくなります。

第一報の文例（チャットやメールで送る）

【AIインシデントの第一報】
・いつ：10月15日 14時ごろ
・誰が：経理課 山田
・どのAI：個人アカウントのChatGPT（無料版）
・何をしたか：顧問先1社の試算表を貼り付け、要約を頼んだ
・共有：共有リンクは作っていない／社外には送っていない
・今の状態：入力をやめ、画面を保存した
・相談したいこと：会話を消してよいか、顧問先へ連絡が要るか

名前の欄は、責めるためではなく、後で本人に詳しく聞くために書いてもらうものだと、最初に伝えておきましょう。

インシデント記録票の項目

担当者が付ける記録票は、次の9つの項目があれば足ります。

• 1. 発生と発覚の日時いつ起きて、いつ社内の誰が知ったか。報告の期限は知った時点から数える
• 2. 関わった人入力した人、気づいた人、記録を付けた人
• 3. 使ったAIと契約の種類サービス名、会社の契約か個人のアカウントか、学習に使う設定だったか
• 4. 入力した内容何を何件か。個人データ・顧客の機密・パスワードの有無
• 5. 出力と、その使い道どの出力を、どの資料や回答に使ったか
• 6. 共有の範囲共有リンク、メール、社外の誰が見た可能性があるか
• 7. とった措置と時刻止めた、削除した、パスワードを変えた、などを時刻つきで
• 8. 重大度と判断した人段階1〜3、外部への報告の要否、判断した日付
• 9. 原因と再発防止使った理由、決まりや環境の見直し、社員への周知

速報で委員会に伝える事項は、概要、個人データの項目、本人の数、原因、二次被害のおそれ、本人への対応、公表の状況、再発防止の措置、その他の9つです。記録票の4番と6番は、このうち個人データの項目と本人の数にそのままつながる欄になります。

報告経路・責任者・対応チームを事前に決める

起きてから担当を決めていては最初の1時間に間に合わないので、窓口・責任者・相談先の3つを平時のうちに決めておきましょう。AIQMIの事例集も、社内では責任者や連絡体制を整えておくこと、インシデント発生時の対応を前もって検討しておくことを望ましいとしています。事例集が参照している総務省・経済産業省の「AI事業者ガイドライン」第1.1版（2025年3月28日）にも、行動目標3-4-2として「インシデント発生時の対応の事前検討」という項目があります。

小さな会社は3つの役割で回せる

社員が数十人ほどの会社なら、対応チームといっても大げさなものは要りません。

• 窓口：総務か情シスの担当者1人と、その代わりの1人。社員はまずここへ知らせる
• 責任者：社長、所長、または役員1人。重大度と外部への報告を決める
• 相談先：顧問弁護士、システムを任せている会社、使っているAIサービスの窓口

連絡先を社内の掲示やAIの利用ルールの1行目に書いておけば、いざというときに迷う方はいなくなるでしょう。

平時の備えは見える・止められる・報告しやすいの3つ

平時に整えておきたいのは、誰がどのAIを使っているかが見えること、問題が起きたら止められること、社員が報告しやすいことの3つになります。前の2つは、アプローチブックの観測性と制御性を、AIを使う会社の言葉に置き換えたものです。

ログ・モニタリングで検知と原因究明に備える（見える）

見えるとは、誰が・いつ・どのAIに・何を入れたかを、会社が後から確かめられる状態を指します。AIQMIの事例集によると、デジタル庁の生成AI調達・利活用ガイドラインでは、プロンプトや出力結果をサンプルチェックし、定期的にモニタリングすることが例として挙がっています。履歴が個人のアカウントに散らばっていると、起きたときに入れた内容を確かめられず、どこまで止めるべきか判断がつかなくなってしまいます。

アカウントとAIを止められる（止める）

止められるとは、会社の判断で、特定の社員のアカウントや特定のAIの利用をすぐに止められる状態のことです。仕事用のGoogleアカウントでGeminiを使っている場合、Geminiアプリのアクティビティを削除できるのはWorkspaceの管理者だけ、とGoogleのヘルプは説明しています。個人のアカウントで使われていると、会社にはアカウントを止める手段がそもそもありません。

報告しやすい窓口（責めない）

報告しやすいとは、うっかり入れてしまった社員が、叱られる心配をせずにすぐ知らせられる状態です。発覚が遅れるほど報告の期限が迫り、打てる手も減ってしまいます。正直に知らせた方を責めない、と社内で先に約束しておきましょう。

利用ガイドラインと入力禁止情報の定義

ガイドラインは、使ってよいAIと、入れてはいけない情報を、迷わない言葉で決めるところが出発点になります。入れてはいけない情報は、たとえば次のように具体的に書いておきます。

• 顧客や顧問先の個人データ（氏名、住所、マイナンバー、口座番号など）
• 取引先から預かった資料や、契約で外に出さないと約束した情報
• 社内のIDとパスワード、APIキー
• 公表前の決算や人事の情報

個人情報は入れない、の一言だけでは現場の判断がぶれやすいので、例を並べ、どうしても使いたいときの相談先も書き添えてみてください。ガイドラインの作り方とひな形は生成AIの社内ガイドラインの作り方で公開しています。決まりを作っても、会社が認めたAIが手元になければ守りにくいので、ルールと使う環境は一緒にそろえるのが現実的でしょう。

従業員教育で伝えておくこと

教育で伝えたいのは、入れてはいけない情報、AIの答えは確かめてから使うこと、何か起きたら知らせる先の3点です。架空の本が並んだ新聞の例のように、確かめる工程が抜けると、使い慣れた人でも事故は防げません。

研修では、この記事の分類や記録票を使い、顧客の情報を貼ってしまったらまず何をするかを、一度声に出して確かめてみてください。点検の項目を増やしたいときは、生成AIのセキュリティ対策チェックリストも使えます。

会社で安全に使うには｜記録と停止を会社の手元に置く

AIインシデントに備える近道は、社員が使うAIを会社の契約にまとめ、記録と停止の手段を会社の手元に置くことです。法人向けのプランには、入力を学習に使わない設定が既定になっているものがあり、ChatGPTのBusiness・EnterpriseやClaudeのTeam・Enterpriseは、各社がそう説明しています。個人のアカウントでは、学習の設定も履歴も本人任せになり、会社からは見えません。

会社で使う環境を選ぶときは、学習に使わない設定が全員に同じように効くか、管理者が利用ログを見られるか、アカウントを止められるか、使わせるAIを会社でオン・オフできるかを確かめてみてください。一部の社員にしか配れないと、配られなかった方が個人のアカウントで使い始め、見えない利用が残ってしまいます。こうした会社から見えないAIの利用は、シャドーAI（野良AI）と呼ばれています。

用途によって得意なAIが違うため、ChatGPTやClaude、Geminiなどを1つの契約で使い分けられる形にしておけば、個人のアカウントへ流れる理由も減らせるでしょう。記録票の3番が毎回同じ答えになる状態を目指すと、起きたときの確認もずっと短くなります。

よくある質問

まとめ

AIインシデントは、AIの使用や誤作動から被害が出た出来事のことで、社内では情報の入力、誤出力、権利の侵害、想定外の使われ方、アカウントの不正利用の5つに分けると、誰が動くかを決めやすくなります。起きたら、最初の1時間で止めて残して知らせ、24時間以内に範囲と重大度を決め、1週間で原因を確かめて決まりと環境を見直す、という順で進めてください。

個人データが関わるときは、4つの報告対象に当たるかを確かめ、速報は概ね3〜5日以内という目安を意識しましょう。平時の備えは、使うAIが見えること、止められること、報告しやすいことの3つです。法人のAI活用に関するほかの記事はAI活用コラム一覧からご覧いただけます。