
シャドーAI(野良AI)の事例とは、会社が認めていない生成AIを社員が業務に使い、そのことが後から明るみに出たケースを指す言葉です。公表された事例をたどると、見つかったきっかけは会社の監視よりも、本人の申告や、別の担当者が成果物の不自然さに気づいたこと、社外が先に見つけたことのほうが目立つ形になります。会社のログにはAIのサイトに入った記録は残っても、何を入力したかまでは残らないためです。見つかった後には、当局への届出や外部AIの遮断の命令、利用者への通知、規程と研修の作り直しが待っていました。
シャドーAIの事例は、どうやって見つかっているのか
公表された事例を発覚のしかたで分けると、本人の申告、社内の別の担当者の気づき、社外からの指摘の3つと、報道で外に知られた形にほぼ収まります。ここで取り上げる国内外の6件のうち、会社の監視で見つかったと公表されているものは1件もありません。
シャドーAIの定義やリスクの全体像はシャドーAI(野良AI)とはにまとめています。国内で公表された入力型の情報漏えいの事案の一覧は生成AIの情報漏洩事例(国内19件の一覧)に載せているので、こちらで追うのは、どう見つかり、見つかった会社が何を失い、何をさせられたのか、の1点になります。
- 本人の申告で見つかった例:RIZAP(2026年)
- 社内の別の担当者が成果物の不自然さに気づいた例:豪ビクトリア州の家族・公正・住宅省(2023年)
- 社外の攻撃者が入口にした例・研究者が先に見つけた例:Vercel(2026年)、OX Securityが見つけたChrome拡張機能(2025年)
- 報道で社外に知られた例:サムスン電子(2023年)
- 発覚の経緯そのものが第三者のレビューにかけられた例:豪NSW州の再建庁(2025年)
発覚のしかたを知っておけば、自社で同じことが起きたときに、どこから知らせが届きそうかを先に思い描くことが出来ます。どの経路で見つかるかによって、会社が背負うものの重さもずいぶん変わってきます。
※各事例の内容は、2026年10月4日時点で各機関・各社の公式ページと、明記した報道に掲載されている内容です(サムスン電子は2026年9月29日時点で確認した報道)。会社の発表(自己申告)、報道、当局の判断を区別して書いています。
本人の申告で見つかった事例(RIZAP)
本人が自分から申し出たことで見つかったのが、RIZAPが2026年9月3日に公表した事案です。同社の公表によると、2026年8月20日に従業員本人の自己申告で発覚し、会社が業務での利用を許可していない外部の生成AIサービスにデータがアップロードされていました。
会社として打ち出した対応は、業務利用の禁止の再周知、アクセス権限と利用環境の見直し、AIマネジメントシステムの導入の検討の3つになります。事案のくわしい経過は、親記事の生成AIの情報漏洩事例(国内19件の一覧)でも紹介しています。
本人の申告は、社外の誰かより先に、会社が自分で事実をつかめる発覚のしかたです。申し出があれば、何を、どのサービスに、いつ入れたのかを本人から直接聞くことが出来ます。逆の立場で考えると、申告した方が処分されるのを見た社員は、次に同じことがあっても黙っている道を選びやすくなってしまいます。申告した方を責める場にすると、次からは誰も申し出なくなってしまうでしょう。
申告を受ける窓口のつくり方は、記事の後半の自己申告の窓口をつくる手順にまとめました。
別の担当者が成果物の不自然さに気づいた事例(豪ビクトリア州DFFH)
成果物を読んだ別の担当者が「この文章はおかしい」と気づいて見つかったのが、オーストラリア・ビクトリア州の家族・公正・住宅省(DFFH)の事案です。州の情報コミッショナー事務局(OVIC)が、2024年9月24日に調査報告を公表しました。
何が起きたか
児童保護の職員が、児童裁判所に出す保護申請の報告書を、ChatGPTを使って作っていました。対象は、親が性犯罪で起訴された幼い子どもの案件になります。出来上がった報告書には、正確でない個人情報が含まれていました。
誰がどう見つけたか
約1週間後の次の審理の前に、報告書を読んだ法務担当の職員が文章の不備に気づき、大規模言語モデル(LLM)のツールで書かれたものだと判断しました。そのツールは、後にChatGPTだと特定されています。報告書は判断の手がかりとして、職員研修や児童保護のガイドラインにそぐわない言葉づかいや、不自然な文の構造を挙げました。
職員本人は、時間の節約と文章を整えるために使ったことは認め、個人情報を入力したことは否定しています。本人はその後に辞職したと、報告書の脚注に記されました。
会社が受けた影響
DFFHは2023年12月に、この件をプライバシー事案としてOVICに届け出ました。OVICは調査のうえで、DFFHが情報プライバシー原則の正確性(IPP 3.1)と保護(IPP 4.1)に違反したと判断し、6項目の是正を命じる通知(compliance notice)を出しています。DFFHは、OVICのメディアリリースによるとこの調査結果を受け入れました。
命じられた6項目には、次のような中身が含まれていました。
- 児童保護の職員に、外部の生成AIのテキストツールを業務で使わせないよう指示する
- 児童保護の職員が使えないよう、ChatGPT・Claude・Gemini・Copy.AI・Meta AI・Grammarlyなどを、IPアドレスやDNSで遮断する(2024年11月5日までに実施し、2026年11月5日まで維持)
- 似たツールを定期的に洗い出す
- Microsoft 365 Copilotを使えないようにする
職員1人の使い方を正すだけでは終わらず、児童保護の部門として外部のAIを使えない状態を長く続ける内容になっています。1人の使い方がきっかけで、児童保護の職員全体が主要な生成AIを2年間使えない状態になりました。報告書の本文はOVICの調査報告書(PDF・英語)で読むことが出来ます。
社外が先に見つけた事例(Vercel・OX Security)
社内の誰よりも先に、社外の攻撃者や研究者が気づいていた、という発覚のしかたもあります。この形では、会社が事実を知った時点で、すでに外の誰かが動いた後になってしまいます。
Vercel(2026年4月):社員が使っていたAIツールから社内に入られた
会社が認めていたツールかどうかは公表されていませんが、社員が使っていたAIツールが入口になった例として取り上げます。米国のVercelは、2026年4月のセキュリティ事案について、公式のセキュリティ速報で経緯を公表しています。速報によると、発端は社員の1人が使っていた外部のAIツールContext.aiが侵害されたことでした。攻撃者はそこで得た権限を使い、その社員の会社のGoogle Workspaceアカウントを乗っ取って社内に入り込んでいます。
影響として、一部の顧客の、機密に指定されていない環境変数が読まれたと説明されました。npmパッケージは侵害されていないことを確認したとしています。Vercelは2026年4月19日(米国時間)に攻撃の原因を公表し、Google Mandiantなどの外部の専門家や法執行機関と連携しながら、顧客への連絡や認証情報の入れ替えの推奨、製品面の強化を進めました。
Context.ai側の説明として、少なくとも1人のVercel社員が会社のアカウントでContext.aiに登録し、すべてを許可する「Allow All」の権限を与えていたと、The Hacker Newsが伝えています。Vercelの速報には、このツールを社内で禁止していたかどうかや、最初に何で異常に気づいたかは書かれていません。
入力した文章が漏れるかどうかとは別に、会社のアカウントそのものが入り口になる経路があることを、この事例は示しています。会社のアカウントで外部のAIツールに広い権限を渡すと、そのツールが破られたとき社内まで開いてしまいます。
OX Security(2025年12月):AIとの会話を抜き取る拡張機能を研究者が発見
利用者が入れたブラウザの拡張機能から、AIとの会話が抜き取られていた例もあります。セキュリティ企業のOX Securityは2025年12月30日、2つのChrome拡張機能が、AIとの会話とChromeで開いているすべてのタブのURLを30分ごとに外部のサーバーへ送っていたと発表しました。
1つは「Chat GPT for Chrome with GPT-5, Claude Sonnet & DeepSeek AI」という名前で、利用者は60万人を超え、Chromeの「おすすめ(Featured)」のバッジまで付いていました。もう1つの「AI Sidebar with Deepseek, ChatGPT, Claude and more」も、利用者が30万人を超えていたと発表されています。人数はいずれもOX Securityの発表によるもので、ストアの表示をもとにした数字になります。
見つけたのは使っていた会社ではなく、OX Securityの研究チームでした。同社は2025年12月29日にGoogleへ報告し、12月30日時点では審査中としています。特定の企業に被害が出たかどうかは、発表には書かれていません。
名前に「ChatGPT」や「Claude」と入っているだけで、公式の製品だと思い込んで入れてしまう方は少なくないでしょう。ブラウザの拡張機能も、会社が把握していないAIの入り口の1つとなってしまいます。
会社のログには入力した内容が残らない
ここまでの事例に、会社の監視で見つかったと公表されたものは1件もありません。監視を強めればシャドーAIは見つかる、と考えたくなりますが、DFFHの事例はその前提が成り立ちにくいことを教えてくれます。OVICの報告書は、組織の閲覧履歴のログからはChatGPTのサイトにアクセスしたことは分かっても、職員が何を入力し、ChatGPTが何を返したかは分からないと指摘しています。
入力した内容が見えないので、個人情報が入ったかどうかは本人の説明に頼るしかなくなってしまいます。実際に、DFFHの職員は個人情報の入力を否定しましたが、組織の側にはそれを確かめる材料がありませんでした。
調査の数字:約900人がアクセスし、尋ねて答えたのは10人
DFFHの社内調査の数字は、聞くだけでは実態がつかめないことをよく表しています。担当部署の1年分の案件を見直したところ、ChatGPTで書かれた可能性の兆候がある案件が100件見つかりました。2023年7月から12月の間には、職員約7,000人のうち約900人(約13%)が業務用の端末からChatGPTのサイトにアクセスしていたことも分かっています。
そこで2024年4月に、最高情報責任者(CIO)が約900人へ使い方を尋ねるメールを送りましたが、返ってきた回答は10人だけでした。アクセスした記録が残っている相手に、組織の幹部が直接尋ねても、答えたのは約90人に1人という計算になります。
社員10〜200名の会社でも、事情は大きく変わらないでしょう。アンケートで「業務でAIを使っていますか」と聞いても、処分を心配する方は答えにくくなってしまいます。回答が少ないことを、使っている人が少ない証拠だと読み違えないようにしましょう。
会社から見えるのはサイトに入ったという事実までで、中身を知るには本人に話してもらうか、最初から会社が管理する環境で使ってもらうかの2つしか道がありません。個人のアカウントで使われている限り、会社はいつまでも本人の説明を待つ立場に置かれることになります。
社員が使うAIを会社の環境1つにまとめれば、利用の記録を会社の側に残せます。UPGEAR AI(アップギアAI)は、ChatGPT・Claude・Gemini・Perplexityを1つの契約で使える法人向けサービスです(人数無制限)。
報道で社外に知られた事例(サムスン電子)
社内で起きたことが報道で外に知られ、会社の対応まで含めて広く伝わったのがサムスン電子の事例です。誰が最初に見つけたのかは公表されていないため、報道で確かめられる範囲に絞って追っていきます。
何が起きたか
韓国メディアの「이코노미스트(Economist Korea)」は2023年3月30日の記事で、サムスン電子の半導体部門(DS部門)でChatGPTへの情報入力の事故が3件起きたと報じました。報道によると、社員の1人は半導体設備の計測データベースのプログラムのソースコード全体を入力していました。別の社員は歩留まりや不良品の判別に使うプログラムのコードを、もう1人は会議を文字起こしした文書を、それぞれChatGPTに入れたと伝えられています。
DS部門がChatGPTの利用を許可したのは2023年3月11日で、そこから約20日の間に3件が起きた計算になります。日本ではPC Watchが2023年4月4日に、Economist Koreaを引用元として明記したうえで同じ内容を伝えました。
入力した時点で、内容は社外のサーバーに渡り、会社が削除や回収を管理できない状態になっていました。OpenAIが、ChatGPTで履歴をオフにした会話を学習に使わない機能を発表したのは、事故の後の2023年4月25日になります。
会社がさせられたこと
報道によると、サムスン電子は緊急の措置として、1回の質問でアップロードできる容量を1,024バイトに制限しました。必要に応じて該当する社員の懲戒を検討するとも報じられていますが、実際に懲戒したという報道は確認できていません。
続いて米TechCrunchは2023年5月2日、社内メモの内容として、会社支給の端末と社内ネットワークでChatGPT・Bing・Bardなどの生成AIツールの利用が禁止されたと報じました。同じ記事によれば、4月の社内調査では回答者の約65%が、生成AIツールの利用をセキュリティ上のリスクだと答えていたとされています。同じ日には、BloombergやCNBCも見出しで伝えていました。
記事に載ったサムスン広報のコメントは、社員が生成AIを安全に使える環境をつくる措置を検討しており、それが整うまで会社の端末からの利用を一時的に制限する、という趣旨でした。禁止そのものが目的ではなく、安全な環境ができるまでのつなぎだと位置づけていたことになります。
その後:会社が管理する環境を配る形へ
サムスン電子は2023年11月のSamsung AI Forum 2023で、自社開発の生成AI「Samsung Gauss」を発表しました。2026年5月26日には韓国経済新聞が、DX(デバイスエクスペリエンス)部門の社員を対象に、ChatGPT・Gemini・Claudeで実証した外部の生成AIを6月中に正式に導入し、利用はセキュリティ研修を修了した社員に限ると報じています。
2026年6月22日には海外のIT系メディアghacksが、OpenAIの発表をもとに、サムスン電子が韓国の全従業員とDX部門の世界の従業員にChatGPT EnterpriseとCodexを展開すると伝えました。報道によって対象の範囲には食い違いがありますが、会社が管理する法人向けの環境を、研修などの条件つきで社員に配る形に切り替えたと報じられています。
禁止から約3年をかけて、使わせない方針から、管理した環境で使わせる方針へと動いた流れが見て取れるでしょう。
発覚の経緯そのものが検証の対象になった事例(豪NSW州再建庁)
どう見つかったのかが公表されず、その経緯自体が第三者のレビューにかけられた事例もあります。オーストラリア・ニューサウスウェールズ(NSW)州の再建庁(Reconstruction Authority)が、2025年10月6日のメディアリリースで公表しています。
何が起きたか
2025年3月12日から15日にかけて、再建庁の元契約者(後の更新ページでは元臨時職員)が、個人情報を含むデータを承認されていないAIであるChatGPTにアップロードしました。データは10列・12,000行を超えるスプレッドシートで、洪水の被災者に関わるものでした。
含まれていたのは、氏名・連絡先・住所・生年月日、機微な個人情報、限られた金銭に関する記述になります。銀行の情報や運転免許、税務番号(TFN)などは含まれていないと説明されています。影響を受けた人数は、公表の時点では最大3,000人の可能性があるとされ、2026年3月26日に更新された継続ページでは2,031人に改められました。
会社が受けた影響
3月の出来事から公表と本人への通知までには、約7か月かかりました。再建庁のリリースは、12,000行を超えるデータを確かめるのに時間がかかったと説明し、通知までに時間を要したことも認めました。どのように見つかり、どう扱われたかについては、独立したレビューを始めたとしています。
取った対応を並べると、次のようになります。
- Cyber Security NSWと外部のフォレンジック(調査)の専門家による調査
- ダークウェブの監視
- NSWのプライバシーコミッショナーへの届出
- ID Support NSWによる本人への支援
- 承認されていないAIの利用についての職員への指示
- データ漏えいの方針と、AIの指針を含むプライバシー管理計画の新設・更新
- 研修の強化、手動でのダウンロードの制限、アクセス権限の見直し
公式の説明では、現時点で第三者がデータにアクセスした証拠は無いとされています。外に漏れた証拠が無くても、通知と調査と規程の作り直しは避けられませんでした。1人のアップロードがきっかけで、行政機関が2,000人を超える方への通知まで抱えることになってしまいました。
シャドーAIが見つかった会社が失ったもの・させられたこと
取り上げた事例を並べると、会社が背負うことになったものは、届出と公表、利用の禁止や遮断、規程と研修の作り直し、利用者や顧客への連絡の4つに分かれます。どれも、見つかってから急いで手を打つ形になっていました。
当局への届出と、外への公表
DFFHは当局(OVIC)への届出から、違反の判断と是正の通知までを受けました。NSW再建庁はプライバシーコミッショナーへ届け出たうえで、公表後もページを更新し続けています。日本で個人データの漏えい等が起き、報告の対象に当たる場合は、個人情報保護委員会への速報を発覚から3〜5日以内、確報を30日以内(不正の目的で行われたおそれがある場合は60日以内)に出すことになります。
利用の禁止や遮断
OVICはDFFHに、主要な生成AIの遮断を2026年11月5日まで続けるよう命じました。サムスン電子も、会社の端末と社内ネットワークでの生成AIの利用を制限したと報じられています。RIZAPは、業務利用の禁止をあらためて周知しました。
遮断は、真面目に使っていた社員の仕事まで止めてしまいます。DFFHのように、Microsoft 365 Copilotまで含めて使えなくする形になると、現場の負担は小さくないでしょう。
規程と研修の作り直し
NSW再建庁は、データ漏えいの方針とプライバシー管理計画を新しく作り直し、研修も強めました。RIZAPは、アクセス権限と利用環境を見直し、AIマネジメントシステムの導入を検討するとしています。どちらも、事が起きてから規程を急いで整える形になりました。
利用者や顧客への連絡と、公表までの時間
Vercelは顧客に連絡し、認証情報の入れ替えを勧めました。NSW再建庁は、3月の出来事から通知までに約7か月を要しています。入れたデータの中身と対象者を確かめる作業が長引くと、知らせるのが遅れてしまいます。遅れた理由そのものを、後から説明しなければならなくなるのも負担の1つです。
人と信頼
DFFHでは、生成AIを使った職員本人が辞職しています。裁判所に出す報告書に正確でない個人情報が入っていたことは、当局の報告書という形で外に残りました。どの事例でも、失ったものは金額ではなく、説明に追われる時間と、外からの信頼だったと言い換えることが出来ます。
発覚のしかたごとの見分け方と、会社の打ち手
発覚のしかたごとに、何が手がかりになり、会社が先回りして何を整えられるかを並べました。自社で起きそうなものから見てみてください。
- 本人の申告で見つかる(例:RIZAP)手がかりは、本人からの相談や報告です。打ち手は、申し出た方を責めない決まりと、入力した内容・サービス名・日時を書いてもらう窓口を、事が起きる前に用意しておくことです。
- 社内の別の担当者が成果物の不自然さに気づく(例:豪DFFH)手がかりは、研修や社内の決まりにそぐわない言葉づかい、不自然な文の構造、出どころの分からない事実です。打ち手は、社外に出す書類を作った本人以外の人が読む工程を残し、気づいた人の相談先を決めておくことです。
- 社外の攻撃者や研究者が先に見つける(例:Vercel・OX Security)手がかりは、取引先や研究者からの連絡、セキュリティ企業の発表、アカウントの不審な動きです。打ち手は、会社のアカウントで外部のAIツールに登録したり権限を許可したりするときの届け出と、入れてよいブラウザ拡張機能の一覧をつくることです。
- 報道で社外に知られる(例:サムスン電子)手がかりは、記者からの問い合わせや記事そのものです。打ち手は、社内で把握した段階で、外に説明する範囲と言い方、窓口を先に決めておくことです。
- 発覚の経緯が後から検証される(例:豪NSW州再建庁)経緯が公表されず、後から第三者に検証される状態です。打ち手は、いつ、誰が、何をきっかけに気づき、誰に伝えたかを、その場で記録に残すことです。
5つを見比べると、会社の打ち手が効くのは、本人が申し出やすい状態と、外に出す前に別の人が読む工程を、事が起きる前につくっておけるかどうかだと分かります。逆に、監視の仕組みだけを強めても、ここで挙げた経路のどれも先回りしにくいのが実情になります。
事例から見えるシャドーAIのリスクの種類
事例に出てきたリスクを分けると、情報の漏えい、誤った内容の利用、規程や法令への違反、外部のツールを入り口にした侵入の4つになります。
IPAのサイトで公開された、中核人材育成プログラムの受講者による手引書「セキュリティ担当者のための生成AIセキュリティ」は、生成AIで起こりうる被害を7つに分けています。そのうち、情報の漏洩と、虚偽や低品質な出力の利用・出力の誤用の2つは、DFFHの事例にそのまま当てはまるでしょう。
誤った内容の利用は、使った本人が気づかないまま外に出てしまう点がこわいところです。シャドーAIの事例ではありませんが、米国では2023年6月22日、ニューヨーク南部地区の連邦地裁が、生成AIの出力を確かめないまま存在しない判例を引用した書面を出した弁護士2人と事務所に、連帯で5,000ドルの制裁金を科したと報じられています。報道によると、この件(Mata v. Avianca)は、相手方が引用された判例を見つけられないと指摘したことで明るみに出ました。
規程や法令への違反では、OVICがDFFHの情報プライバシー原則への違反を認定しています。日本でも、個人情報保護委員会が2023年6月2日に生成AIサービスの利用に関する注意喚起を出し、個人情報を含むプロンプトを入れる場合は利用目的の範囲内かを確かめるよう事業者に促しました。AI事業者ガイドライン(第1.1版・2025年3月28日。2026年3月に第1.2版が公表)も、AIの利用者に「AIシステム・サービスに機密情報等を不適切に入力することがないよう注意を払う」ことを挙げています。
外部のツールを入り口にした侵入は、Vercelの事例のように、入力した文章とは別の経路で会社に被害が及ぶものになります。IPAの「情報セキュリティ10大脅威2026」でも、組織編の3位に「AIの利用をめぐるサイバーリスク」が初めて選ばれました。
シャドーAIとシャドーITとの違い
シャドーITは、会社が認めていないIT機器やクラウドサービスを社員が業務に使うこと全般を指し、シャドーAIはそのうち生成AIに絞った呼び方になります。違いが出るのは、問題の中身が、使ったかどうかよりも、何を入力し、出てきたものをどう使ったかにある点です。
DFFHの事例のとおり、AIとのやり取りは会社のログに中身が残らず、本人の説明に頼るしかありません。さらに、出力が報告書や書類に混ざって外に出ると、誤りがそのまま会社の名前で出てしまうことになります。2つの言葉の違いはシャドーITとシャドーAIの違いでも整理しているので、あわせてご覧ください。
AI提供側の事故とシャドーAIを分けて考える
AIをめぐる事故には、社員の使い方から起きるものと、AIのサービスを提供する側の不備から起きるものがあります。打ち手が違うので、社内で報告を受けたときは、まずどちらに当たるかを分けてみてください。
提供側の例として、国内のAIサービス「リートン」で、サービス側の設定の不備が見つかった件があります。窓の杜の2024年3月22日の記事によると、高い技術力をもった利用者からの報告をきっかけに、2023年11月30日に不備が確認されました。社員のシャドーAIの話ではありませんが、入力した先のサービス側の事故は、利用者の報告で見つかることもあるという例になります。
OX Securityが見つけた拡張機能の件は、その中間に当たるでしょう。社員が自分で入れた拡張機能という点ではシャドーAIの入り口ですが、会話を抜き取ったのはAIの提供元ではなく、AIの名前を掲げた第三者の拡張機能でした。
提供側の事故は、会社が公認したサービスでも起こりえます。公認の環境を配るときも、提供元の発表を誰が見て、何かあれば誰が社内に知らせるかを決めておきましょう。
禁止だけでは減らない理由と、会社が整える4つのこと
事例を通して見えるのは、禁止や遮断は入口をふさぐ手段にはなっても、使いたい理由そのものは消せないという点になります。DFFHの職員が挙げた理由は、時間の節約と文章を整えることでした。
サムスン電子も、禁止を一時的なものと位置づけ、後に会社が管理する法人向けの環境を条件つきで配る方向へ動いたと報じられています。IPAのサイトで公開された受講者の手引書でも、IT部門が安全性を確かめた組織公認のAIを全社に提供することが、シャドーAI対策の有効な前提条件の1つとされていました。使いたい理由が消えない以上、禁止の先には、会社が配る公認の環境が要ります。
社員10〜200名の会社が整えるものは、公認の環境、ルール、教育、利用状況の可視化の4つになります。
公認の環境を配る
使ってよいAIを会社が選び、会社の契約で配ります。一部の人にだけ配ると、配られなかった方が個人のアカウントに流れてしまうので、使いたい方全員に行き渡ることを前提に考えましょう。
ルールを決める
入力してはいけない情報、社外に出す前に別の人が読む工程、会社のアカウントで外部のAIツールに登録するときの届け出の3つは、事例から直接引き出せる決まりです。文書の作り方は生成AIの社内ガイドラインの作り方にまとめています。
教育する
ルールは、なぜその決まりがあるのかが伝わって、はじめて守られるものになります。ここで紹介した事例を研修の題材にして、会社のログには入力した内容が残らないことや、外部のツールに会社のアカウントで権限を渡す危うさを、具体的に伝えてみてください。サムスン電子の2026年の導入でも、利用はセキュリティ研修を修了した社員に限ると報じられています。
利用状況を見えるようにする
個人のアカウントでの利用は、会社のログには中身が残りません。会社が管理する環境であれば、誰がいつどのAIを使ったかを、会社の側で記録として残すことが出来ます。例えばChatGPTの法人向けプランのBusinessでは、管理者が会話履歴を閲覧・書き出し・削除でき、保持期間も設定できます。
IPAのサイトで公開された受講者の手引書は、取得すべきログとして、利用者と端末、利用時間、使ったAIとモデル、入力したプロンプトと添付ファイル名、出力の内容などを挙げています。保存期間の例はメタデータが1年、プロンプトや出力の本文が3か月で、ログを蓄積して事後に確認する段階を、すべての企業が最低限実施すべき水準と位置づけました。
最初からすべてを揃える必要はありません。まずは公認の環境を1つ決めて配り、そこで記録が残る状態をつくるところから始めましょう。点検の項目は生成AIのセキュリティ対策チェックリストでも確かめることが出来ます。
シャドーAIが見つかった直後に社内へ出す連絡文のひな形
シャドーAIの利用が1件見つかったら、同じ使い方をしている方がほかにもいる前提で、全社に向けて申告をお願いする連絡を出しましょう。DFFHの約900人と10人の回答の差が示すとおり、責める調子の連絡では、黙ってしまう方が出てきてしまいます。
次のひな形には、責任を追及する場にしないこと、入力した内容とサービス名・日時を申告してもらうこと、締め切りを区切ることを入れました。会社名や期日は、自社に合わせて書き換えてください。
件名:生成AIの利用状況についてのお願い(ご回答は◯月◯日まで) 社員各位 業務で、会社が契約していない生成AI(ChatGPT、Claude、Gemini、翻訳や文章校正のAIツール、ブラウザの拡張機能など)を使ったことがある方に、利用状況を教えていただきたく、ご連絡します。 今回の目的は、会社やお客様の情報がどこに入っているかを確かめることです。申告した方の責任を問うためのものではありません。期日までに申告していただいたことだけを理由に、処分の対象にすることはありません。 ■ 教えていただきたいこと 1. 使ったサービスの名前(拡張機能の場合はその名前) 2. 使ったおおよその時期と頻度 3. 入力した内容の種類(お客様の氏名・連絡先、取引先の情報、社内の数字、ソースコード、会議の内容など) 4. 会社のアカウント(会社のメールアドレス)で登録したか、外部のツールに権限を許可したか 5. AIが出した文章や資料を、社外に出したか ■ 申告の方法 ◯◯(担当者名)あてに、メールまたは社内フォームで送ってください。内容を見るのは、担当者と◯◯(役職)だけです。 ■ これからのこと 会社として使ってよいAIの環境とルールを、◯月◯日までにご案内します。それまでの間は、お客様や取引先の情報、個人情報を生成AIに入力しないでください。 ◯◯(差出人)
※就業規則との関係や、故意の持ち出しが疑われる場合の扱いは、社内の担当者や専門家と確認したうえで文面を決めてください。
回答が集まったら、入力した内容に個人情報が含まれていないかを最初に確かめます。個人データの漏えい等に当たり、報告の対象になる場合は、発覚から3〜5日以内に個人情報保護委員会へ速報を出す流れになるためです。
専任の情シスがいない会社で、自己申告の窓口をつくる手順
社員10〜200名の会社では、AIの利用を見張る専任の担当者を置くのは難しいでしょう。代わりに、本人が申し出やすい窓口を1つつくると、本人の申告という発覚のしかたを会社の側に引き寄せることが出来ます。
- 窓口になる担当者を1人決めます。総務の方でも、経営者本人でもかまいません。
- 申告の受け口をつくります。社内のフォームか、窓口担当者あてのメールで十分です。質問は、上のひな形の5項目にそろえます。
- 申告した方を責めない決まりを、経営者の名前で文章にして出します。上から尋ねても答えが返ってこない状態を避けるための一歩になります。
- 最初の1週間で集まった申告を、サービス名ごとに並べます。同じサービスが何人も挙がれば、仕事でそのAIが必要とされている印と受け止めてください。
- 個人情報や取引先の情報が入っていた申告は別に分け、報告や連絡が要るかどうかを確かめます。
- 集まった使い方をもとに公認の環境とルールを決め、申告した方から先に移ってもらいます。
窓口は一度つくって終わりではなく、新しいAIツールが出るたびに使われる場所になります。気になるツールを見つけた方が、使う前に気軽に相談できる場所として案内してみてください。窓口に届いた相談は、どのAIを公認の環境に加えるかを考える材料にもなってくれます。
見えないAI利用を、会社が管理する1つの環境へ
UPGEAR AI(アップギアAI)は、ChatGPT・Claude・Gemini・Perplexityを1つの契約・1つの画面で使える法人向けサービスです。利用ログや権限、使うモデルのON/OFFは管理者ダッシュボードでまとめて扱え、基盤はAWSの日本リージョンで動いています。料金は月額30,000円(税抜)から。どのプランも利用人数は無制限で、料金は利用量に応じたプラン設計です(人数の目安はライト1〜5名・スタンダード6〜20名・プレミアム21〜50名)。初期費用100,000円(税抜)が別途かかります。
資料をダウンロード UPGEAR AIの詳細を見るよくある質問
シャドーAIの利用が見つかったら、懲戒にすべきですか?
社員が個人のアカウントで使ったAIの履歴を、会社は見られますか?
入力した内容に個人情報が含まれていたら、誰にいつ報告しますか?
社内でアンケートを取れば、シャドーAIの実態は分かりますか?
シャドーAIを防ぐには、生成AIを全面的に禁止すればよいですか?
社員のAI利用がきっかけで、外部から侵入されることはありますか?
まとめ
シャドーAIの事例をたどると、見つかるきっかけは本人の申告、成果物を読んだ別の担当者の気づき、社外の研究者や攻撃者、報道で社外に知られた、のいずれかとして公表されており、会社の監視で見つかったと公表された例は、ここで取り上げた中にはありませんでした。会社のログには入力した内容が残らず、DFFHではCIOが約900人に尋ねても、答えたのは10人だけだったことになります。
見つかった会社は、当局への届出と違反の判断、主要な生成AIの長期の遮断、約7か月かけての通知、規程と研修の作り直しを背負うことになりました。サムスン電子が禁止から管理された環境の配布へと動いたように、使いたい理由が消えない以上、会社が公認の環境を配り、ルールとログで管理する形に向かうのが自然な流れになるでしょう。
まずは自己申告の窓口と、申告をお願いする連絡文から始めてみてください。国内で公表された事案の一覧は生成AIの情報漏洩事例(国内19件の一覧)に、ほかの記事はAI活用コラム一覧にまとめています。
