AIのリスクとは、AIを業務に使うことで会社に生じうる損失や不利益のことで、生成AIでは情報漏えい・誤った出力・権利侵害・攻撃への悪用が中心です。社員10〜200名の会社が最初に手を付けるのは、会社が認めたAI環境を1つ決めて、入力してよい情報の線引きを全社に伝えるところからになります。禁止だけで済ませると、社員が個人のアカウントで使うシャドーAIが増え、かえって漏えいの経路が見えなくなってしまいます。リスクごとの判断表、最初の30日の手順、事故が起きたときの初動を順に見ていきましょう。

社内の責任者の決め方や点検の頻度といった体制の話は、AIガバナンスの体制づくりにまとめてあります。ここでは、会社で生成AIを使うと具体的にどんなリスクがあり、どれから手を付ければよいかに絞ってお伝えします。

※公的資料・調査・各社ヘルプの内容は、2026年9月〜10月に公式の資料で確認したものです。判断表の発生しやすさと影響、30日の手順、初動の時間の区切りは、社員10〜200名の会社を想定したこの記事の目安で、法令やガイドラインが定める基準ではありません。

AIのリスクとは｜会社が負うリスクの範囲と立場の違い

会社にとってのAIのリスクは、自社がAIを作る側か、使う側かで中身が変わります。総務省と経済産業省のAI事業者ガイドライン（第1.2版、令和8年3月31日）は、AIに関わる事業者を開発者・提供者・利用者の3つの立場に分けて、立場ごとに取り組む事項を整理しています。AIを使うだけの会社は、このうちのAI利用者にあたります。会社の規模で対象から外す記載はないため、社員10名の会社でも考え方は同じになります。

開発者・提供者・利用者の立場別に見るAIのリスク

開発者はAIの学習に使うデータの偏りや権利を、提供者はAIを組み込んだサービスが誤った案内をしたときの責任を、主に負います。利用者の側で起きやすいのは、入力した情報の漏えい、誤った出力をそのまま使うこと、他人の権利を侵す生成物を公開すること、そして会社が知らないAI利用の4つです。

ただし、Webサイトなどで顧客向けにAIのチャットを置くと、会社は利用者に加えて提供者の立場も持つ場合があります。ガイドラインも、1つの事業者が複数の立場を兼ねる場合があるとしています。後で触れるAir Canadaの件は、この立場の違いが表に出た例として読むことが出来ます。

国の資料と調査が示す、いま警戒されているリスク

情報処理推進機構（IPA）が2026年1月29日に公開した「情報セキュリティ10大脅威 2026」の組織編では、「AIの利用をめぐるサイバーリスク」が3位に入りました。この項目が選ばれたのは2026年が初めてで、研究者や企業の実務担当者など約250名の選考会が審議と投票を経て決めています。同じ組織編の1位はランサム攻撃による被害、2位はサプライチェーンや委託先を狙った攻撃です。

企業の受け止めも近いものがあります。日本情報システム・ユーザー協会（JUAS）の「企業IT動向調査報告書2026」では、言語系の生成AIを導入するときの課題として、1位に機密情報の流出（70.1%）、2位にハルシネーション・信頼性（66.4%）が挙がりました。調査は2025年9〜10月に東証上場企業とそれに準じる企業のIT部門長を対象としたもので、回答は957社です。中小企業に絞った値ではないものの、漏えいと誤りの2つが先に気にされている点は規模を問わず参考になります。

警視庁サイバーセキュリティ対策本部も2026年5月12日に公式Xで、会社が把握していないAI利用への注意を呼びかけました。図で挙げたリスクは情報漏えい・著作権侵害・ハルシネーションの3つだと、同日のITmediaの記事が伝えています。同じ記事は、ハルシネーションや著作権侵害は会社が契約したAIサービスでも起こりうるとも書いており、環境を整えただけでは消えないリスクだと分かります。

会社で生成AIを使うときのリスク一覧（8分類）

会社で生成AIを使うときのリスクは、次の8つに分けて考えると漏れが少なくなります。社員の毎日の使い方に近いものから順に見ていきましょう。後半の判断表では、5のプロンプトインジェクションとなりすましを分けて9行で並べています。

1. 機密情報・個人情報の入力による漏えい

社員が顧客名入りの資料や社内の数字をAIに貼り付け、その内容が会社の管理の外に出てしまうリスクです。個人向けのAIサービスでは、設定によって入力内容がモデルの学習に使われる場合があります。

実名の例として知られるのが、韓国のサムスン電子です。韓国のEconomist Koreaは2023年3月30日、半導体を扱うDS部門でChatGPTの利用を3月11日に許可してから約20日で、入力の事故が3件起きたと報じました。中身はソースコード2件と、会議の文字起こし1件だったとされています。同社は緊急の措置として、1回の質問でアップロードできる容量を1,024バイトに制限したと報じられました。

個人情報には法律上の注意も加わります。個人情報保護委員会は2023年6月2日の注意喚起で、個人情報を含むプロンプトを入力するときは、利用目的の達成に必要な範囲内かを十分に確かめるよう求めています。本人の同意なく個人データを入力し、それが応答の出力以外の目的で扱われる場合は、個人情報保護法に違反する可能性があるという整理です。提供元が個人データを機械学習に使わないことなどを確かめるよう促している点も、会社で使う環境を選ぶときの目安になるでしょう。

2. ハルシネーション（もっともらしい誤情報）

ハルシネーションとは、AIが事実でない内容をもっともらしく出力してしまう現象のことです。IPAの解説書も、対話型AIが架空の情報を事実のように示すことがあるとして、利用者に生成結果を精査するよう呼びかけています。

米国のMata v. Avianca事件では、ChatGPTが作った実在しない判例を、弁護士が裁判所に提出しました。ニューヨーク南部地区連邦地裁は2023年6月22日、弁護士2人と事務所に連帯で5,000米ドルの制裁金を科しています。AIの出力を確かめずに社外へ出せば、その誤りは使った会社や個人の誤りとして扱われてしまいます。

AI事業者ガイドラインは、AIの出力を過信する傾向を自動化バイアスと呼び、AIの特性を理解するためのトレーニングを対策の例に挙げました。出力を人が確かめる手順を、使う部署の仕事の流れに組み込んでおきましょう。

3. 著作権・知的財産権の侵害

AIの生成物が既存の作品に似ていた場合、それを公開した会社が著作権の侵害を問われるおそれがあります。文化庁の「AIと著作権に関する考え方について」によると、差止請求は故意・過失の有無を問わず起こせる一方で、損害賠償には故意か過失、刑事罰には故意が要るという整理です。

刑事罰は重く、著作権法第119条1項は十年以下の拘禁刑か千万円以下の罰金（または併科）を定めています。社員が業務で違反したときは、第124条1項一号により、法人にも三億円以下の罰金刑が科される場合があります。AIで作った画像や文章を広告やWebサイトに使う前に、似た作品がないかを人が確かめる工程を挟んでください。

4. バイアス・差別的な出力

バイアスとは、学習データや入力した指示の偏りが、出力にそのまま表れてしまうことです。応募者の評価や人事の文面にAIを使うと、性別や年齢による偏った前提が紛れ込むことがあります。AI事業者ガイドラインも、AI利用者に期待される事項として、入力データやプロンプトに含まれるバイアスへの配慮を挙げています。採用・評価・与信のように人の扱いを左右する場面では、AIの案を最終判断に使わず、人が理由を説明できる形で決めるのが安全でしょう。

5. プロンプトインジェクションとAIを使ったなりすまし

プロンプトインジェクションとは、AIに読ませる文章やWebページに隠した指示を仕込み、AIを本来の目的と違う動きに誘導する攻撃のことです。メールの要約やWeb検索、ファイルの操作までAIに任せるほど、仕込まれた指示が実害につながる範囲は広がっていきます。2026年3月31日のAI事業者ガイドライン第1.2版では、AI利用者向けの別添に、AIエージェントについての項目が加わりました。追記の中身は、同年3月12日に総務省と経済産業省が公表した更新内容の資料にまとめられています。AIエージェントの操作履歴を定期的に確かめることと、重大な影響がありうる場面で人の判断を挟むこと、データを必要な分に絞ることの3つになります。

AIは攻撃する側にも使われます。HKFP/AFPやThe Guardianの報道によると、英国の設計・エンジニアリング会社Arupの香港拠点で2024年、財務部門の社員がビデオ会議に映った偽の映像と音声を本物と信じ込み、15回の送金で約2億香港ドル（約2,600万米ドル）をだまし取られました。Arupも、偽の音声と映像が使われたことを認めています。警察庁はビジネスメール詐欺への注意として、送金にかかわるメールを受けたら、取引先の担当者にメール以外の電話やFAXなどで確かめるよう呼びかけました。送金や振込先の変更は、偽物を見分ける力に頼らず、決裁に複数名の確認を入れる規程で止めることになります。

6. ブラックボックス化と説明責任・責任の所在

生成AIは、なぜその答えになったのかを、利用者が後からたどりにくい仕組みです。そのため、AIの答えをもとに判断した結果が問われたとき、会社が経緯を説明できなくなるおそれがあります。

カナダのMoffatt v. Air Canadaでは、会社のWebサイトのチャットボットが規程と違う忌引き運賃を案内しました。BC州のCivil Resolution Tribunalは2024年2月14日、会社に合計812.02カナダドルの支払いを命じています。決定文には「It makes no difference whether the information comes from a static page or a chatbot.」という一文があり、固定のページでもチャットボットでも会社の案内として扱う考え方が示されました。AIが答えたことでも、会社の窓口が答えたのと同じように責任を問われうると考えておくと安全でしょう。AI事業者ガイドラインが、利用時の入出力のログを合理的な範囲で記録・保存するよう示しているのも、後から説明できる状態を残すためと読めます。

7. ブランド毀損・炎上

AIの誤りが社外の目に触れると、訂正やおわびの手間に加えて、会社の名前そのものに傷が付いてしまいます。2024年11月11日のJ-CASTニュースの報道では、民間企業のファーストイノベーションが運営する地方創生キャンペーン「福岡つながり応援」で、生成AIで作った記事に存在しない施設などの誤った情報が載り、記事がすべて削除されました。運営会社は公式Xの謝罪で、生成AIで作った記事を人が確認したうえで発信してきたと説明しています。確認する人が何をどこまで調べるかを決めていないと、確認の工程があっても誤りは残ってしまいます。

8. シャドーAI（会社が把握していないAI利用）

シャドーAI（野良AI）とは、会社が認めていないAIサービスを、社員が個人の判断で業務に使っている状態のことです。IPAの解説書は、社員が個人で使っているAIサービスを業務に持ち込むことがあるとして、これをシャドーAIと呼んでいます。持ち出しが禁止された業務データを入力すれば情報漏えいにつながり、会社が個人アカウントでの業務利用を認識できないこと自体もリスクだという指摘です。

ガートナージャパンが2026年6月18日に発表した国内調査（2026年2月実施、n=414）では、シャドーAIを「把握できていない」が43%、「把握しているが、有効な対策を取れていない」が30%で、合わせて73%にのぼりました。「把握し、有効な対策を取れている」と答えたのは24%です。GartnerはシャドーAIの主なリスクとして、知的財産を含む機密情報・個人情報の流出、データ管理などの法令違反、セキュリティ上の脆弱性の増大、事故発生時のレピュテーション毀損の4つを挙げています。

社内でシャドーAIが生まれる経路と見つけ方は、シャドーAI（野良AI）とはをご覧ください。

発生しやすさと影響の判断表（リスクアセスメント）

リスクアセスメントとは、リスクごとに発生しやすさと起きたときの影響を見積もり、対策の優先順位を決める作業のことです。AI事業者ガイドラインも、リスクの大きさに対策の程度を合わせるリスクベースアプローチが重要だとしています。社員10〜200名の会社で起きやすい形に当てはめると、次の表のようになります。

※発生しやすさ・影響・起こりやすい部署は、社員10〜200名の会社で生成AIを使う場合を想定したこの記事の目安です。業種や使い方によって変わるため、自社の棚卸しの結果で書き換えてお使いください。

表で発生しやすさも影響も大きいのは、機密情報・個人情報の入力とシャドーAIの2つです。この2つは、公認環境と入力の線引きという同じ手で一緒に下げられます。一方で、ディープフェイクによる送金詐欺は起きる頻度こそ低いものの、1回の被害が大きいため、AIの設定とは別に決裁の規程で備えておきましょう。

許容する・条件付きで認める・やめる、の3つで決める

判断表を作ったら、リスクごとに経営者が3つのどれにするかを決めます。社内文書の要約のように影響が小さいものは許容し、顧客情報を扱う作業は公認環境の中だけで認める条件付きにして、採用の合否のように理由を説明しにくい判断は当面やめる、という分け方です。やめると決めた業務でも、社員が個人のAIで同じ作業を始めてしまえば、シャドーAIのリスクが戻ってきてしまいます。決めた結果は理由と一緒に社内へ伝え、使わないことにもリスクがある点を経営会議で共有してください。

生成AIを禁止だけにすると起きること

生成AIを一律に禁止すると、使いたい社員が個人のアカウントに流れ、会社から見えない利用が増えるおそれがあります。IPAの解説書は、シャドーAIが起きる場面の例として「職場で AI サービスの利用が無い場合など」を挙げました。会社が使える環境を用意していない場面も、個人のAIが業務に持ち込まれる例として挙がっていることになります。

10〜200名の会社で起きやすい流れ

1. 会社が生成AIの業務利用を禁止するか、何も決めないまま様子を見る
2. 一部の社員が、スマートフォンや自宅のPCで個人のAIアカウントを使い始める
3. 便利さが口コミで広がり、部署の中で資料づくりにAIを通す使い方が定着する
4. 顧客名入りの議事録や見積書が、学習に使われる設定のまま個人アカウントに入力される
5. 禁止されているため誰も申告せず、誤入力が起きても会社が気づくのが遅れる

兼務の担当者1人では、個人のスマートフォンでの利用まで追いきれないのが実情でしょう。禁止したこと自体が申告をためらわせ、誤入力の発見を遅らせてしまいます。禁止を続けるなら、代わりに使える環境をいつ用意するかまで決めておく必要があります。

禁止から公認環境へ切り替えたサムスンの例

サムスン電子は2023年3月の入力事故の後、5月に会社支給の端末と社内ネットワークでの生成AIツールの利用を禁止したと、TechCrunchが2023年5月2日に報じました。その後2026年には、会社が管理する法人向けのChatGPT Enterpriseを、研修などの条件を付けて社員に配る形に切り替えたと報じられています。禁止で時間を稼ぎながら管理できる環境を用意し、使い方を戻すという順番は、規模の小さい会社でも参考に出来ます。最初から公認環境を用意しておけば、禁止の期間を挟まずに進められる場合もあるでしょう。

入力してよい情報・いけない情報の区分

入力の線引きは、文書の種類ごとに3つの区分で示すと社員が迷わなくなります。AI事業者ガイドラインも、AI利用者が機密情報などを不適切に入力しないよう注意を払うことを求めています。社員が実際に貼り付けがちな文書で分けてみると、次のような形です。

区分A　公開済みの情報（どの環境でも入力してよい）

• 自社サイトやパンフレットに載せている文章
• 公開済みのプレスリリースや求人票
• 固有名詞を含まない一般的な文章の言い換えや、敬語の確認
• 公開されている法令・ガイドラインの要約の依頼

区分B　社内の情報（会社公認の環境でのみ入力してよい）

• 社内会議の議事録（顧客名・個人名を伏せたもの）
• 見積書や提案書の下書き、金額の算定根拠
• 社内マニュアルや業務手順書
• 自社で書いたソースコード（パスワードやAPIキーなどの認証情報を取り除いたもの）
• 営業日報や売上の集計表

区分C　入力しない情報（公認環境でも原則として入れない）

• 給与明細・人事評価・健康診断の結果など、社員の個人情報
• 顧客の氏名と連絡先・取引履歴が結び付いた一覧
• 取引先から秘密保持契約のもとで預かった資料
• パスワード・APIキー・社内システムの接続情報
• 採用の応募書類
• 未発表の決算や組織再編などの経営情報

区分Cの情報でも、業務上どうしても必要な場面は出てきます。その場合は、責任者の事前承認を条件にする形が現実的です。個人情報を入れるときは、個人情報保護委員会が示すとおり、利用目的の範囲内かを先に確かめる手順を挟んでください。取引先から預かった資料は、契約に第三者への提供やクラウドへの保存の制限がないかも見ておきましょう。入力ルールを含む社内ルールの文書全体は、生成AIの社内ガイドラインの作り方を参考に整えることが出来ます。

会社公認のAI環境で確認する設定項目

公認環境を決めたら、社員にアカウントを配る前に、管理画面で次の項目を確かめておきましょう。設定の名前はサービスごとに違いますが、確かめる中身はどの環境でも共通になります。

• 入力データが学習に使われない設定になっているか個人向けのChatGPTは、Settings → Data controls の「Improve the model for everyone」をオフにすると、新しい会話がモデルの学習に使われなくなります。過去の会話は消えず、高評価・低評価などのフィードバックを送るとその会話全体が学習に使われる場合がある点にも注意が要ります。ChatGPTのBusiness・Enterprise・Eduのワークスペースは、既定で学習に使われません。
• 利用ログが残り、誰が見られるかAI事業者ガイドラインは、利用時の入出力のログを合理的な範囲で記録・保存するよう示しています。保存年数の指定はないため、何をどのくらい残し、閲覧できる人を誰に絞るかを社内で決めます。
• 使えるAI・モデルを管理者が限定できるか部署や用途によって使わせたくないAIが出たときに、後から止められるかを確かめます。
• メンバーの追加・停止と権限を管理者が操作できるか退職や異動の当日にアカウントを止められるかが目安になります。
• 利用量の上限と、上限に近づいたときの通知想定外の使い方で費用や利用枠が膨らんだとき、管理者が気づける仕組みがあるかを見ます。
• 会話を削除したときの扱いChatGPTでは、削除した会話は画面から即時に消え、30日以内にシステムから完全に削除される予定とされています。一時チャットも、安全のため最大30日コピーが残る場合があります。
• データの書き出しを誰が行えるかChatGPTのBusiness・Enterpriseでは本人がデータをエクスポートできず、ワークスペースのオーナーに依頼する形です。
• 利用規約と約款を確かめたかIPAの解説書も、AIサービスを契約するときの約款の確認を経営者層の対策に挙げています。

この中の多くは、社員の個人アカウントのままでは会社が確かめようのない項目です。点検の細かい項目は生成AIのセキュリティ対策チェックリストも参考になります。複数のAIを1つの環境でまとめて管理する方法は、マルチAIとはで紹介しています。

対策の柱と、最初の30日の進め方

AIのリスク対策は、利用ルール・教育・利用状況の把握（ログ）・会社管理の環境の4本を柱にすると整理しやすくなります。

対策の4本柱：ルール・教育・ログ・会社管理の環境

IPAの解説書では、経営者層の対策として、未許可のAIサービスの利用禁止、AIガバナンスと利用規定の整備、契約時の約款の確認、専門家や相談窓口の確保、決裁への複数名のチェックの規程化が並びます。システム管理者と従業員に向けては、通信ログやCASB（クラウドサービスの利用状況を見える化する仕組み）で利用状況をつかむこと、多要素認証の徹底、講習の用意、秘密情報を安易に入力しないこと、AIへの過剰な依存に気を付けることなどを挙げています。解説書の対策一覧は法的な義務ではなく、IPAが勧める対策という位置づけです。4本のうち10〜200名の会社でまず形にしやすいのは会社管理の環境とルールで、ログと教育をその上に乗せる順番が無理のない形でしょう。

1週目（1〜7日目）：使っているAIの棚卸しとシャドーAIの確認

最初の週は、社内で使われているAIを、責めずに申告してもらうところから始めます。全社員に、使っているAIの名前、個人契約か会社契約か、入力している情報の種類を聞く短いアンケートを送ってみてください。集まった答えは、判断表の起こりやすい部署の欄を自社の実態に書き換える材料になります。

2週目（8〜14日目）：入力してよい情報を3区分で決める

2週目は、区分A〜Cを自社の文書に当てはめ、部署ごとの例を1つずつ足していきます。営業なら見積書と顧客リスト、経理なら請求書と給与データのように、部署の言葉で書くと伝わりやすくなります。判断表で発生しやすさが高いと付けた部署から、先に決めるのがよいでしょう。

3週目（15〜21日目）：公認環境を決めて設定する

3週目に業務で使うAI環境を1つに決め、前の節の設定項目を管理画面で確かめます。学習に使われない設定と利用ログの確認は、社員にアカウントを配る前に済ませておきたいところです。区分Bの情報を入れてよいのはこの環境だけ、と決めることで、ルールと環境が1本につながります。

4週目（22〜30日目）：全社への周知と最初の点検

4週目は、後で紹介する通知文のひな形を使って全社に知らせ、公認環境のアカウントを配ります。通知から1週間ほどたったら利用ログを開き、使われていない部署や、区分Cに当たりそうな入力がないかを確かめましょう。誤入力が起きたときの連絡先も、この時点で決めて通知に書いておくと初動が速くなります。そのあとの毎月の点検と四半期ごとの報告は、ガバナンスの運用に引き継いでいきます。

事故が起きたときの初動（直後・1時間以内・当日・1週間）

AIに関わる事故は、種類によって最初に動く人と連絡先が変わります。ここでは起きやすい3つの場面ごとに、時間で区切った初動を並べました。時間の区切りは、この記事の目安になります。

個人情報や機密情報を入力してしまったとき

• 直後：入力した本人が画面を閉じずに事務局へ連絡し、どのAIの、どのアカウント（会社か個人か）に、何を入れたかを伝える
• 1時間以内：事務局が会話の削除や共有リンクの停止などの措置を取り、公認環境なら利用ログで入力の範囲を確かめる
• 当日：責任者に報告し、取引先の情報なら契約上の通知の決まりを、個人情報なら漏えい等報告が必要な4類型に当たるかを確かめる
• 3〜5日以内（目安）：報告が必要な場合は、個人情報保護委員会への速報を出す
• 1週間：原因と再発防止策をまとめ、入力区分の例に今回の文書を書き足す

漏えい等報告が必要になるのは、要配慮個人情報が含まれる場合、財産的被害のおそれがある場合、不正の目的によるおそれがある場合、本人の数が1,000人を超える場合の4類型です。速報は「速やか」に出すもので、ガイドライン（通則編）では知った時点から概ね3〜5日以内とされています。確報は30日以内（不正の目的によるおそれがある場合は60日以内）が期限です。AIに入力しただけで必ず報告義務が生じるわけではありません。判断に迷ったときは、早めに専門家に相談してください。

AIの誤った出力を社外に出してしまったとき

• 直後：気づいた人が、該当するページ・資料・メールの公開や送付を止める
• 1時間以内：担当部署が、どの文章がAIの出力で、誰がどう確かめたかを整理する
• 当日：誤りの内容と訂正の方法を責任者が決め、影響を受けた相手に訂正を伝える
• 1週間：確認の手順（何を、どの資料と照らして確かめるか）を見直し、同じ種類の出力に当てはめる

福岡の例のように確認の工程があっても誤りは残るため、見直すのは確認したかどうかより、確認の中身になります。

AIを使ったなりすましの送金指示を受けたとき

• 直後：送金の手続きを止め、指示した本人や取引先の担当者に、電話やFAXなどメール以外の方法で確かめる
• 1時間以内：経理の責任者と経営者に共有し、同じ指示がほかの社員に届いていないかを確かめる
• 当日：すでに送金していた場合は、取引のある金融機関と警察に相談する
• 1週間：送金と振込先の変更に複数名の確認を入れる決裁の規程を見直す

ビデオ会議の顔や声が本人に見えても決めつけず、送金の手続きそのものに確認を組み込んでおくのが確かな備えです。

社員向け通知文のひな形

公認環境と入力の区分が決まったら、全社への通知は短く、して欲しいことを先に書くと読まれやすくなります。次のひな形の［ ］の部分を、自社の内容に置き換えて使ってみてください。

全社周知用

件名：業務での生成AIの使い方について（［開始日］から）

社員各位

［開始日］から、業務で生成AIを使うときは、会社が用意した［公認環境の名前］を使ってください。個人のアカウントや、会社が認めていないAIサービスに、業務の情報を入力しないでください。

■ 入力してよい情報
・区分A（公開済みの情報）：どの環境でも入力できます
・区分B（議事録・見積書・社内マニュアルなど社内の情報）：［公認環境の名前］でのみ入力できます
・区分C（給与・人事評価・顧客の個人情報・取引先から預かった資料・パスワードなど）：入力しないでください

■ AIの答えを使うとき
・社外に出す資料や回答は、数字・固有名詞・出典を人が確かめてから使ってください
・画像や文章を公開する前に、既存の作品に似ていないかを確かめてください
・送金や振込先の変更の指示は、メールや会議の映像だけで判断せず、電話などで本人に確かめてください

■ 入力を誤ったとき・困ったとき
・誤って入力したときは、画面を閉じずに［担当者名・連絡先］へすぐ連絡してください。報告したことを理由に責めることはありません
・使いたいAIが［公認環境の名前］にない場合は、［申請の方法］で相談してください

［部署名・責任者名］

区分Cの入力や個人アカウントの利用が見つかったときの声かけ例

［名前］さん、AIを仕事に役立ててくれてありがとうございます。
利用状況を確かめたところ、［区分Cの情報／個人のアカウント］での利用があったので、念のため声をかけました。
責めるつもりはないので、何を、どのAIに、いつ頃入力したかを教えてもらえますか。必要があれば、会話の削除などを一緒に進めます。
同じ作業は［公認環境の名前］でも出来るので、使い方で分からないところがあれば［担当者名］に聞いてください。

声をかけるときは、責めるより先に、報告や相談をしてくれたことへのお礼を伝えるほうが、次の申告につながりやすいでしょう。

法令・規制とガイドラインの整理

国内でAIを使うだけの会社にかかるのは、AIのための新しい罰則よりも、個人情報保護法や著作権法などの既存の法律です。AIのための法律やガイドラインは、罰則で縛るより、取り組みの方向を示す形を取っています。

AI推進法とAI事業者ガイドライン

AI推進法（令和7年法律第53号）は2025年6月に公布され、同年9月に全面施行されました。第7条は、AIを活用する事業者に国や地方公共団体の施策への協力を求めていますが、罰則で個別の行為を義務づける形にはなっていません。AI事業者ガイドラインも、非拘束的なソフトローとして、ゴールベースの考え方で作られています。法的な義務ではないものの、経営者を含む事業執行責任者が、事業戦略と一体でAIのリスク対策を考えることが大切だという立場です。

AI事業者ガイドラインの、利用者向けの確認リスト

同ガイドラインの表1は、AI利用者の欄に次のような事項を挙げています（ここでは情報提供と説明をまとめました）。自社で確かめる問いの形に置き換えると、次のようになります。

• 安全を考慮した適正利用社外に出す前に、出力を人が確かめる手順が使う部署にあるか。
• 入力データやプロンプトに含まれるバイアスへの配慮採用・評価など人の扱いを決める用途を、別扱いにしているか。
• 個人情報の不適切な入力とプライバシー侵害への対策入力しない情報（区分C）を決め、全社に通知したか。
• セキュリティ対策の実施公認環境の設定とアカウントの管理を、配る前に確かめたか。
• 関連するステークホルダーへの情報提供・説明取引先や顧客に、AIをどの業務にどう使っているかを説明できるか。
• 提供された文書の活用と規約の遵守使っているAIの利用規約と、提供元の説明資料に目を通したか。

個人情報保護法と著作権法

個人情報保護法については、前に触れた個人情報保護委員会の注意喚起と漏えい等報告の決まりが、AIを使う場面にもそのままかかります。著作権法は、社員が業務で侵害したときに法人も罰金刑の対象になりうるため、会社としての備えが要ります。

EU AI法・NIST AI RMFと、AIガバナンスとの関係

海外には、EUのAI法や、米国立標準技術研究所（NIST）のAIリスクマネジメントフレームワーク（NIST AI RMF）といった規制や枠組みがあります。国内で事業をする会社であれば、まず国内のAI事業者ガイドラインを軸に考えるのが近道でしょう。EU向けに製品やサービス、AIの出力を出している場合は、専門家に確かめてください。リスク管理は個々のリスクを洗い出して手を打つ作業で、AIガバナンスはそれを誰がどの頻度で回すかという仕組みにあたります。判断表と30日の手順は前者で、点検や報告を続ける後者の仕組みとセットで動かすことになります。

よくある質問

まとめ

AIのリスクとは、AIを業務に使うことで会社に生じうる損失や不利益のことで、会社で生成AIを使う場合は漏えい・シャドーAI・誤情報・権利侵害・攻撃への悪用など8つに分けて考えると整理出来ます。社員10〜200名の会社では、発生しやすさと影響がともに大きい情報の入力とシャドーAIから手を付け、会社公認の環境を1つ決めて入力の3区分を伝えるのが近道になります。最初の30日は、棚卸し・入力の区分・公認環境の設定・周知と点検を、1週ずつ進めてみてください。事故の初動は種類ごとに時間で区切って決めておき、個人情報が絡むときは漏えい等報告の4類型に当たるかを確かめましょう。法人のAI活用に関するほかの記事は、AI活用コラム一覧をご覧ください。