AIの責任の所在とは、生成AIを使って何か問題が起きたときに、その判断と結果を誰が引き受けるのかという話になります。実際のところ、AIそのものは責任を負うことが出来ず、責任は使う会社と社員の側に残ってしまいます。だからこそ、誰が利用を認め、誰が入力を管理し、誰が出力を確かめ、誰が問題に対応するのかを、社内で前もって決めておきましょう。使う側に向けた公的な指針の全体像は、AI事業者ガイドラインを会社で使うときの読み方も参考にしてみてください。

AIの責任の所在はどこか｜AIを使っても確認する役割は残る

会社の仕事で生成AIを使った結果は、AIではなく、それを使って判断した方と会社の問題として扱われることになります。AIに文案を書かせた場合でも、それを顧客に送ると決めたのは担当者で、その業務を任せたのは会社です。内容が間違っていたときに「AIが書いたので」と説明しても、それだけで取引先への対応が終わるわけではありません。まずは、社外へ出す前の最終判断を誰がしているのか、手元の業務で確かめてみてください。

ここでいう責任は、社内で作業を分担するという意味と、損害が出たときの法律上の責任とに分けて考えると、ぐっと分かりやすくなります。社内の担当表で営業部長を確認役にしても、その表だけで顧客との法律関係が決まるわけではありません。かといって担当表がなければ、誰が確認するはずだったのかさえ、後から分からなくなってしまいます。社内の担当を決めることと、個別の法律上の責任を判断することは、別の作業になります。

民法第709条は、条文で「故意又は過失によって他人の権利又は法律上保護される利益を侵害した者は、これによって生じた損害を賠償する責任を負う」と定めています。第715条第1項は、被用者が事業の執行について第三者に加えた損害に対する、使用者の責任を定めた条文になります。ただ、実際の出来事で誰にどの責任が認められるかは、業務の内容や確認の仕方、損害とのつながりなどによって変わってきます。社員個人か会社か、どちらか一方に必ず決まるというふうには読まないでください。

経済産業省のAI利活用における民事責任の解釈適用に関する手引きは、AIの開発・提供・利用に関わる当事者の予測可能性を高めるために、今の法律がどう解釈適用され得るかの方向性を示したものです。AIを使った会社の責任を、一律に決めた資料ではありません。報道発表では、AIのブラックボックス性や自律性からどう解釈すべきかを考えるうえで裁判例の蓄積が十分でない、という指摘が背景として挙げられています。ですので社内では、「責任は誰か」という大きな問いで止まらず、どの場面で誰が判断するのかまで書き出しておくことになります。

たとえば、営業担当がAIで見積書の説明文を作り、部門長が確認しないまま送っている運用なら、数字や条件を元の資料と突き合わせる工程が抜けたままとなってしまいます。総務担当が就業上の案内文を作る場合も、社内規程と照らし合わせる担当が必要でしょう。どちらも実際の事故を紹介しているわけではなく、確認役を決めるための業務の例になります。過去の事故や、関係者ごとの責任の分かれ方は生成AIの事故事例と責任の分かれ方で詳しく扱っています。

最初の話し合いでは、社員の責任を追及するところから始めない方が、ずっと進めやすくなります。いま使っている文書を一つ選んで、作成・確認・承認・送信の順に担当者の名前を書いてみましょう。AIを挟んだことで確認する方が抜けている箇所が見つかれば、そこが社内ルールで埋めるべき場所です。

社内の責任と、顧客に対する説明を混ぜない

担当表に「使う社員が出力を確認」と書いてあっても、顧客からの問い合わせにその社員が直接答えるとは限りません。顧客との契約を持つ部門が窓口になり、確認した社員から事実を集める流れの方が、説明が食い違いにくくなります。社内で誰が間違いに気づいたかと、社外へ誰が回答するかは、別の欄に分けてみてください。

AIを使わない、これまでの業務と比べてみると、抜けた工程が見つけやすくなります。これまで上司が送信前の文書を見ていたのなら、AIで下書きが早くなったとしても、その確認を外す理由にはなりません。反対に、社員が社内メモを作るだけの使い方にまで顧客向けの承認を当てはめると、確認の待ち時間ばかり増えてしまいます。出力が誰に届くのかを基準にして、確認の重さを調整しましょう。

「誰の責任か」を一言で決めたくなる場面ほど、何が起きたのかを細かく分けて見る必要があります。入れてはいけない情報を入力したのか、出力の誤りを見落としたのか、認められていない使い方に広げたのかで、調べる記録も変わってきます。事実が分からないうちに一人に責任を集めてしまうと、原因を確かめる作業がかえって遅れてしまいます。まずは、どの工程なら止められたのかをたどってみてください。

開発者・提供者・利用者の責任をどう分けて考えるか

AIに関わる会社がいくつもあっても、自社がどの立場で何を決めたのかから考えると、整理しやすくなります。総務省と経済産業省のAI事業者ガイドライン第1.2版は、AI開発者・AI提供者・AI利用者の3つを分けています。このうちAI利用者は、事業活動の中でAIシステムやAIサービスを利用する事業者のことです。仕事で外部の生成AIを使っている会社なら、まずはこの立場に当てはめて読むことが出来ます。同じ事業者が、いくつかの立場を兼ねる場合もあります。

提供元が設計した機能や規約を、使う側の会社が変えることは出来ません。その一方で、どのサービスを選ぶか、何を入力するか、出力をどの業務に使うかは、会社の側が決めることになります。開発者・提供者・利用者のどこか一者にすべてを預けてしまうと、この違いが見えなくなってしまいます。提供元の契約内容を確かめたうえで、自社が選べる設定と使い方を担当表に落とし込んでください。

経済産業省の手引きが示す主な検討対象には、開発者・提供者、利用者、第三者という当事者が出てきます。開発者・提供者と利用者のあいだには契約関係があり、利用者と第三者のあいだには契約関係がない場合も図に示されています。たとえば、顧客がAIで作った文書を受け取る場合でも、その顧客がAIの提供元と直接契約しているとは限りません。ですので会社の担当者は、自社が顧客に何を約束しているのかも含めて見直すことになります。

規約を読むときは、出力の扱いについて書かれた箇所を先に探してみてください。確認したOpenAIの個人向け利用規約には、共有する前に必要に応じて人が確認するなどして、アウトプットの正確性と適切性を評価する必要があると書かれています。OpenAIの法人向けサービス契約でも、出力の利用と、利用目的に照らした評価については、顧客が単独で責任を負う形になります。Microsoft Copilotの個人向け補足使用条件にも、応答を公開したり共有したりするときの利用者の責任が示されています。ただ、確かめたのはこの3つの規約だけなので、すべての提供元が同じ条件だと考えるのは早いでしょう。

契約の担当者が見るのは、使いたいサービスの今の規約と、データの扱い、出力を外へ出すときの条件です。部門長が見るのは、その条件で現場の文書を扱えるかどうかになります。規約を読む方と業務を判断する方が別々なら、両方の確認結果を一枚の記録に残しておきましょう。契約を済ませただけで利用の許可まで済んだと考えてしまうと、入れてよい情報や確認の手順が決まらないまま、使い方だけが広がってしまいます。

顧客から「誰がこの文章を確かめたのか」と聞かれたとき、提供元の名前を挙げても答えにはなりません。担当者、部門長、情報管理の担当者が、それぞれ何を見たのかを示せる状態にしておく必要があります。外部との争いでどこまで責任を負うかは、契約と事実関係を見たうえでの個別の判断です。社内の役割表は、その判断の材料をなくさないためにも役に立ってくれます。

法律やガイドラインを読む前にも、社内の判断は残る

AIに関わる法律やガイドラインの名前を見て、担当者まで一律に決めてくれると考える方もいらっしゃるでしょう。ここで扱う社内の担当表は、特定の法令の役職名を写したものではありません。どの制度が自社のどの業務に当てはまるかは、事実関係に応じて別に確認することになります。まずは確認済みの手引きとガイドラインから、自社がしている判断を洗い出してみてください。

ガイドラインは、拘束力のないソフトローとして、目標を示す「ゴールベースの考え方」で作られています。そのため、表の欄を全部埋めれば法律上の責任が自動的になくなる、と受け取ってしまうのは危険です。実際に使われた用途や確認の中身、残っている記録まで合わせて見なければなりません。制度の名前より先に、現場の一つの出力が誰に届くのかを追いかけてみましょう。

責任範囲を先に決める社内の責任分担表

責任の空白を減らすには、役職ごとに、利用の許可から問題が起きたときまでの担当を並べた表が役に立ちます。下の表は、会社で話し合いを始めるための、この記事の提案です。公的な分類や法律上の決まりではなく、法律や公的ガイドラインがこの役職にこの責任を割り振ったわけでもありません。兼務している会社でも、役割の名前は残したまま、実際の担当者を書き込んでみてください。

表の一つのマスに仕事を詰め込みすぎると、実際には誰も動けなくなってしまいます。「承認する方」と「設定を変える方」を分けて、承認したあとに設定が反映されたことを確かめる方まで決めておきましょう。たとえば、経営者が利用範囲を認め、AI担当が申請を記録し、情シスがアカウントを用意する流れにしておけば、担当が不在のときでも代わりの方を選びやすくなります。表には役職名だけでなく、実際に連絡が届く担当者と代理の方を書き込みましょう。

小さな会社では、AI担当と情シスを同じ方が兼ねることもあるでしょう。その場合でも二つの役割は消さずに、許可の判断と設定の作業を分けて記録しておく方が、後から確かめやすくなります。自分で申請を受けて自分で設定するのなら、部門長や経営者が承認した記録を残す形が考えられます。反対に、管理者だけで利用を決めてしまうと、そのサービスを使う業務の中身まで管理者が判断したことになってしまいます。

表を埋める順番は、現場で使っている一つの使い方から始めるのが自然です。営業の返信文であれば、営業部門が顧客へ出す条件を確かめ、社員が元の依頼と見比べ、AI担当が使ってよい範囲を管理する形になります。入力する顧客情報については、情報管理の基準と食い違わないようにしておく必要があります。運用が固まってきたら、総務の通知文や社内資料へと広げてみてください。最初から全部署の仕事を一枚に詰め込むと、承認者の名前が並ぶだけで、作業が前に進まなくなってしまいます。

使っているサービスの規約や社内ガイドラインに、役割表と食い違う記載がないかも見ておきましょう。契約で許されている範囲と社内で認める範囲が違うなら、会社はより狭い使い方を選ぶことが出来ます。社内ルール全体の書き方は生成AIの社内ガイドラインに任せて、この表では担当者が毎日動けるかどうかに絞っています。

分担表を配る前に、本人へ作業を聞く

表は経営者とAI担当だけで作るより、実際に文書を出している方に手順を聞きながら作った方が、ずっと正確になります。営業担当が見積の数字をどこから拾い、誰が例外の条件を直しているのかを聞いてみると、部署の中ですでに働いている確認が見えてきます。そこへAIを入れたときに、同じ確認が出来るかどうかを確かめていく流れです。

「部門長が全件を確認」と書く前に、部門長がふだんどの文書を見ているのかも聞いてみてください。実際には担当者と先輩が見ているのに、表の上だけ部門長にしてしまうと、承認の印だけが残ることにもなりかねません。部門長には確認する方を指名してもらい、例外の相談を受け取る役を持ってもらう方法もあります。どの文書を部門長まで上げるかを先に決めておけば、責任の線が現場の手順と合いやすくなります。

担当者が休みの日のことも考えておきましょう。確認役がいない日は利用を止めるのか、代理の方が同じ資料を見て続けるのかを決めておくと安心です。代理を置く場合は、名前を並べるだけでなく、元の資料へのアクセスと確認記録の置き場所も共有しておく必要があります。仕事が急いでいるときほど、承認の抜け道が作られやすくなってしまいます。

出力を人が確かめるかどうかで承認の重さを分ける

人が確かめてから使う使い方と、AIの出力をそのまま使う使い方とでは、承認の重さを変えておくのが現実的です。なお、経済産業省の手引きは、AIが使われる形態に応じて「補助／支援型AI」と「依拠／代替型AI」の2つの類型を整理しています。ここから先の、人が確かめるかどうかで承認を分ける線引きは、この記事が社内の運用として提案するものです。公的な分類ではなく、手引きが会社に求めている手順でもありません。手引きからは類型の名前だけをお借りして、自社の使い方を仕分けるときの目安にしてみてください。

たとえば、社員がメールの下書きをAIに作らせ、元の依頼や金額、納期と見比べてから送るような使い方なら、最後に判断するのは人になります。この場合の申請には、使う文書の種類、入力する情報、確認に使う元の資料、社外へ出す方を書いてもらいましょう。部門長は担当者がどの資料と見比べるのかを確かめ、AI担当は会社の入力基準に合っているかを見ていきます。承認したあとも、案件ごとの確認を省いてよいという許可にはなりません。

一方で、AIの回答を人が見ないまま顧客へ送ったり、取引を自動で振り分けたりする案では、誤りが社外へ出る前に止められる場所が少なくなってしまいます。社内の提案としては、部門長だけで始めずに、AI担当や情報管理の担当者、必要に応じて経営者まで承認に入ってもらう形がよいでしょう。どこまで自動で進み、誰が止められ、間違いをどう見つけるのかを説明できないうちは、いったん人の確認を残したまま試してみてください。人の確認を外す提案には、出す前の承認と、出した後に見つけて止める方法の両方が要ります。

承認の書類に必要なのは、大きな構想よりも、一つの出力がどこへ行くのかという点です。社内だけで読む要約なのか、顧客に届く文章なのか、判断の参考資料なのかで、確認する方は変わってきます。部門長が「下書き」として認めた使い方を、社員がいつの間にか自動返信に使っていたとしたら、最初の承認は役に立たなくなってしまいます。使い方を変えるときは申請し直す、と書類の欄に書いておきましょう。

たとえば人事担当が応募書類の要約を読む場合には、要約が元の書類の中身を落としていないかを人が見比べる必要があります。出力を個人の評価の参考にするのであれば、ガイドラインのAI利用者向けの記載も関わってきます。同じガイドラインは、対象者への通知と、自動化バイアスを考えたうえでの人による合理的な判断に触れています。自動化バイアスとは、機械の答えを正しいと受け取りすぎてしまう傾向のことです。評価の案をAIに出させる場合ほど、判断した理由を人の言葉で残しておいてください。

承認する頻度も、使い方ごとに決めることが出来ます。毎回同じ形の社内案内であれば、使い方の承認と案件ごとの確認を分けて考えられるでしょう。顧客ごとに条件が変わる見積の文章なら、使い方を認めたあとも、毎回の照合が欠かせなくなります。承認の印ばかり増やしても、現場の負担が重くなるだけとなってしまいます。誰の、何の判断を記録するのかを、最初の試しの段階で確かめてみてください。

用途が変わる境目を、申請の言葉にする

同じAIを使っていても、社内で読む案を作るのと、顧客への回答を出すのとでは、出力の行き先が違ってきます。申請書に「文章作成」とだけ書いてしまうと、この違いを見落としやすくなります。「営業担当が顧客への返信案を作り、元のメールと社内の条件表を見てから送る」のように、使う方、相手、確認する資料まで書いてもらいましょう。その一文から外れる使い方が、新しく承認する対象になります。

最初は人が見てから送ると決めていても、件数が増えてくると自動で送りたくなる場面もあるでしょう。そのときは、時間が足りないという事情と、確認を外してよいという判断を、分けて考える必要があります。確認に時間がかかるなら、確認する項目を絞る、元の資料を整える、担当を増やすといった方法も考えられます。自動送信に切り替える前には、間違いの見つけ方と、止める方を新しく決めておきましょう。

承認を断った理由も記録しておくと、社員は次の案を出しやすくなります。たとえば入力する情報の範囲があいまいなら、その範囲を決めてから申請し直すことが出来ます。確認する方が決まっていないなら、部門の中で担当を選ぶところから始められます。ただ「危ないから禁止」と返すだけでは、仕事で使いたい方が個人のアカウントへ移ってしまうおそれもあります。認められる条件を、具体的に伝えてみてください。

出力を人が確かめる手順と、確認を省かない仕組み

人による確認は、「読みました」という印だけでは足りず、元の情報と出力を見比べる作業として決めておく必要があります。生成AIはもっともらしい文章を作るため、根拠のない内容が紛れ込んでいても、見た目だけでは気づきにくくなってしまいます。一般にハルシネーションと呼ばれる誤りへの備えとして、担当者が何と何を見比べるのかを、使い方ごとに書き出してみてください。

見積書の説明文なら、価格・数量・納期・適用条件を社内の元の資料と照らし合わせます。AIが計算したように見える数字でも、承認済みの見積書と合っているかを確かめることになります。契約書のたたき台なら、社内のひな形から変わった箇所を探して、相手に約束する範囲を担当部門が見ていきます。どちらも、文章をさっと流し読みしただけでは、確認したとは言いにくいでしょう。

情報を調べる使い方では、出力が挙げた資料の名前だけを信じずに、元の資料そのものを開いてみてください。社内文書の要約なら、原文にある例外の条件や但し書きが抜け落ちていないかが大切になります。顧客向けの説明に使う場合には、元の資料の版や更新の状況も照らし合わせます。出力を使う方が、根拠を自分で確かめてから次の方へ渡す流れにしてください。

同じような出力を何度も見ていると、慣れから読み飛ばしてしまうこともあるでしょう。そこで、使い方ごとの確認項目を短く決めておき、実際に迷った項目だけを後から直していく方法が考えられます。営業の返信なら、宛先・条件・数字・添付の有無など、仕事ですでに使っている確認にAIならではの項目を足す方が、長く続けやすくなります。新しく長いチェック表を毎回埋めるやり方は、形だけの確認になってしまうおそれがあります。

確認した結果、AIの文章を大きく直したのなら、その直した中身を残すかどうかも決めておきましょう。社外へ出した最終版だけでなく、どの誤りを人が見つけたのかが分かれば、次に同じ使い方を認めるときの材料になります。ただし、すべての下書きを無期限に取っておくという意味ではありません。業務の記録と個人情報の扱いをそろえて、残す範囲を決めることになります。

「AIが正しいか分からないので、別のAIに確かめさせる」という使い方もありますが、それだけで人の確認が済むわけではありません。2つの出力が、同じ誤った情報を繰り返してしまう場合も考えられます。一次資料や自社の原本に立ち返る方を決めておいた方が、確認の意味がはっきりしてきます。確かめられる資料がないときは、外へ出す判断をいったん保留にしてください。

部門長は、担当者の「確認しました」という報告を受けるだけでなく、使った資料をときどき見てみるとよいでしょう。出力の誤りが何度も同じところで起きるなら、AI担当は指示の文や使う資料、承認の範囲を見直すことが出来ます。人による確認は、担当の社員一人を責めるための仕組みではありません。確かめやすい資料と時間を会社が用意するところまで含めて、運用していくことになります。

確認出来なかった出力の扱いも決めておく

元の資料が見つからない数字や固有名詞をAIが出してきた場合、その部分だけ消せば済むとは限りません。文章全体の結論がその情報に寄りかかっているなら、前提から見直すことになります。営業の提案文であれば、確認済みの自社資料だけを使って書き直した方が早いこともあるでしょう。確かめられない出力を保留にしてよいかどうかも、担当者の裁量としてはっきり書いておいてください。

「人が見た」という記録だけでは、どこまで確認したのかが伝わらないことがあります。誤字を見ただけなのか、契約の条件を見たのか、数字を計算し直したのかを分けておくと、次の方も安心して引き継ぐことが出来ます。文書の種類に合わせて、確認項目を短い言葉にしておきましょう。担当者が確認して部門長が承認する場合は、部門長が何を追加で見るのかも決めておくと安心です。同じ項目を二人でなんとなく読むより、役割を分けた方が見落としに気づきやすくなります。

確認の失敗が見つかったときは、その社員の注意力だけを原因にしないでください。元の資料が古い、最新版にたどり着けない、急ぎの案件が重なっているといった、仕事の条件が影響していることもあります。AI担当は、出力の誤りの種類と、確認で止められなかった理由を分けて記録しておきましょう。それが、次の案件で同じ間違いを減らすための材料になります。

利用ログは何を、誰が、どこまで残すか

利用ログは、後から「誰が何を使い、何を確かめたのか」を説明できるように残しておくものです。AI事業者ガイドライン第1.2版は、合理的な範囲で入出力などのログを記録・保存し、その方法や頻度、保存期間を検討することに触れています。保存する年数を一律に決めているわけではありません。自社の文書管理や情報管理のルールと合わせて、必要な記録を決めてみてください。

まずは、利用者と日時、使ったAIサービス、仕事での用途、入力した情報の種類、出力を何に使ったかを確かめられるかを見ていきます。入力した文そのものを保存する場合は、顧客情報や機密が含まれるため、見られる方を絞っておく必要があります。入力した文を残さない使い方なら、後から何を入れたのかを確かめられる別の記録が要るでしょう。記録する項目と、その記録を見られる担当者は、同時に決めてください。

次に残しておきたいのは、出力を誰が確かめ、どの資料と見比べ、最終的に何を使ったのかという点です。AIの返答だけを保存しても、顧客へ送った文面が直したあとのものなら、そのあいだの判断が見えなくなってしまいます。承認した使い方と実際の使われ方が合っていたかも、後から振り返れるようになります。紙でなければいけないという話ではなく、ガイドラインの文書化についての脚注も、後から確認できる適切なツールで記録が残っていれば差し支えないという趣旨です。

ログのチェック項目は、次のように運用の問いの形にしておくと使いやすくなります。使うサービスによって取れる項目が違うため、導入前の確認と、使い始めてからの試し読みの両方を入れてみてください。

• 利用者・日時・サービスが分かるか個人アカウントではなく、会社が把握する利用と結びつけられるかを確認します。
• 入力と出力の範囲を説明できるか本文を残す場合の機密情報と、残さない場合の代わりの記録を決めます。
• 確認者と最終版をたどれるかAIの下書きが、そのまま外へ出たのか、誰が直したのかを分けます。
• 閲覧権限・保存期間・削除方法を決めたか必要な方だけが見られるようにし、期間は自社の管理方針で定めます。
• 問題の連絡後に記録を保全できるか通常の削除や設定変更の前に、担当者へ相談する流れを確認します。

会話の全文が取れるという宣伝だけで選んでしまうと、実際に必要な「誰のどの業務か」が分からないこともあります。逆に、使い方に比べて細かすぎる記録を全社員分集めると、閲覧を管理する仕事ばかり増えてしまいます。管理者が必要なときに読めるか、社員が記録の目的を分かっているかを、合わせて点検しましょう。

会社が管理していない個人のアカウントで業務の情報を扱っていると、何を入力したのか会社からは確かめられません。この状態で「何かあれば履歴を出してもらう」とだけ決めておいても、退職やアカウントの事情で、確かめるのが難しくなってしまいます。まずは仕事で使っている場所を把握して、必要なら会社が管理する環境へ移す相談を始めてみましょう。会社から見えない利用への向き合い方は、シャドーAIの対策でも扱っています。

記録の保存期間は、ここで一律の年数を示すことは出来ません。取引先との約束や社内規程、扱う情報によって、必要な判断が変わってくるためです。担当者を決めて、何のために残すのか、期間が過ぎたらどう消すのかを文書にしておきましょう。後で必要になるかもしれないという理由だけで、何でも無期限にため込む運用も避けたいところです。

ログを試しに読み、説明できるか確かめる

記録の項目を決めたら、実際の一件を選んで、AI担当と部門長で後からたどってみましょう。利用日時から出力まではたどれても、その出力をどの顧客に使ったのかが分からなければ、業務側の記録とのつなぎ方を考える必要があります。反対に、顧客向けの文書から担当者は分かっても、どのAIの出力を使ったのかが分からなければ、利用側の記録を見直すことになります。両方の向きから探せるかどうかを、試してみてください。

ログには、社員の仕事の中身や顧客の情報が含まれていることがあります。ですので、管理者が見られることと、誰でも気軽に見てよいことは、まったく別の話になります。見る理由、見る担当者、記録を持ち出すときの手順を決めて、社員にも知らせておきましょう。問題を調べるための記録が、新しい情報管理の問題を生んでしまっては元も子もありません。

保存先がいくつかに分かれている会社では、契約したサービスの履歴、社内の承認記録、顧客へ送った最終版を、一つの画面に集められないこともあるでしょう。その場合でも、共通の案件名や管理番号でつながっていれば、説明がしやすくなります。無理に全文を一か所へ写す前に、どの記録を誰が取り出せるのかを一覧にしてみてください。記録はあるのに探せない、という状態を減らすことが出来ます。

責任者・規約・モニタリングを一つの運用にする

責任者を置いたあとは、使われ方の実態を見てルールを直していくところまで、担当の仕事に含めておく必要があります。AI事業者ガイドライン第1.2版は、経営者を含む事業執行責任者が、事業戦略と一体でAI活用のリスク対策を考えて実践することに触れています。同じ資料には、責任者の設定や文書化の項目も並んでいます。名前だけの責任者を置くよりも、どんな情報を集めて誰に報告するのかを先に決めておきましょう。

AI担当は、すべての出力を自分で検品する役ではありません。部門長から新しい使い方の申請を受け、管理者の設定状況を確かめ、問題の報告を集める窓口になります。部門長の役には業務の正しさを判断できる方、情シスの役にはアカウントや権限を扱える方が必要です。責任者一人に判断を集めすぎず、業務の確認と環境の管理を別々に受け取る形にしてください。

モニタリングとは、使い始めたあとの状況を見直すことです。認めた使い方以外の利用が増えていないか、入れてはいけない情報が紛れていないか、出力の確認が実際に続いているかを見ていきます。管理画面の数字を眺めているだけでは、仕事の現場で何が起きているのかまでは分かりません。社員に困った例を聞いてみたり、部門長が確認項目を使えているかを確かめたりしてみてください。

サービスの設定だけを信じすぎないことも大切になります。法人向けの仕組みの中には、入力を学習に使わないことを既定にしているものがあります。確認したOpenAIの事業向けデータの説明でも、対象となる法人向けサービスとAPIの入出力は、既定では学習や改善に使われないとされています。ただ、会社が別に個人向けのアカウントも使っていれば、会社の設定はそちらには届きません。許可したサービスと、実際に使われている場所が一致しているかを確かめておきましょう。

規約や提供条件は、契約したときだけでなく、使い方が変わったときにも見直すのが安心です。最初は社内の下書きだけだった使い方を顧客対応にまで広げるなら、出力の扱いも確認の負担も変わってきます。部門長の申請とAI担当の記録をつないで、古いルールのまま使われていないかを見ていきましょう。責任者の置き方を詳しく決めたい方は、AI責任者の置き方も読んでみてください。

費用も、この運用と切り離して考えることは出来ません。会社が払うのはサービスの料金だけでなく、使い方の確認や社員への案内、記録の保管、問題が出たときの調査にかかる時間も含まれます。見積もるときは、まず承認する使い方の数と、案件ごとの確認が要る件数を洗い出してみてください。価格だけで選んで、確認する方の時間を確保しないままだと、手順が形だけになってしまいます。

反対に、現場の下書き一つ一つまで経営者が承認するやり方では、返事が遅れて、結局は個人の判断に戻りやすくなります。経営者は許可する範囲と費用を決め、部門長は業務の確認を任せる方を指名し、AI担当は全体の変更を追いかける、という形が考えられます。実際に一つの申請を通してみて、待ち時間が長いところを直していきましょう。社内で使えるルールかどうかは、書類の長さよりも、この流れが続くかどうかで判断することが出来ます。

使い続ける費用を、確認する時間まで含めて見る

AIの利用を広げる前に、毎月の請求だけでなく、現場で必要になる作業も並べてみてください。使い方の申請に答える時間、社員が出力を元の資料と見比べる時間、部門長が例外を判断する時間、管理者が権限を直す時間などがあります。これらを金額に置き換えるには、自社で件数と時間を測ってみることになります。根拠のない「AIで何時間浮く」という見込みで予算を決めない方が、安心でしょう。

試す使い方を一つに絞って、これまでの作業とAIを使った作業を同じ物差しで比べる方法が考えられます。下書きを作るのが早くなっても、確認する資料が増えれば、全体の時間はあまり変わらないかもしれません。反対に、確認項目が整理されたおかげで、引き継ぎが楽になる場合もあるでしょう。毎月の出費を判断するときは、サービスの料金とこの実測を分けて見てください。

責任者の仕事を増やすときには、その方のもともとの業務をどう調整するかも、経営者が判断することになります。窓口の名前だけ置いて、申請を読む時間や記録を見直す時間を渡さなければ、問題の報告がたまる一方となってしまいます。担当表を作ったあとに、毎月どんな作業が出てきたのかを聞いてみましょう。必要な予算は、実際に運用してみて初めて見えてくる部分もあります。

問題が起きたときの連絡と費用を先に決める

問題が見つかったときは、社員が一人で抱え込まず、決めておいた窓口へすぐ連絡できる状態にしておく必要があります。AIQMI WG1 SIG-Incidentの事例集でも、起きたときの対応を前もって検討し、内部の責任者や連絡体制を整えておくことが望ましいとされています。なお、この資料には産総研の公式見解ではない旨の断り書きがあります。社内では、誰に知らせ、誰が利用を止め、誰が顧客への説明を判断するのかを確かめてみてください。

たとえば、顧客へ送った文書に誤りの疑いが出てきた場合、担当の社員は元の依頼と送信済みの最終版を保全して、部門長へ伝えることになります。部門長は、同じ文書を使った案件がほかにないかを確かめて、AI担当と連絡を取ります。情シスや管理者は、必要な利用履歴を取り出し、利用を続けるか止めるかの判断を支えます。誰が社外に何を伝えるかは、経営者を含めた決裁の線で決めることになります。

ここで社員が心配になるのは、「AIを使ったと報告したら、自分だけの責任にされるのでは」という点でしょう。報告が遅れるほど影響の範囲も確認の手間も広がってしまうため、気づいたらすぐ伝えやすい窓口を作っておく必要があります。労働契約法第15条は、懲戒が「客観的に合理的な理由を欠き、社会通念上相当であると認められない場合は、その権利を濫用したものとして、当該懲戒は、無効とする」と定めていますが、一つ一つの処分が認められるかどうかは、事情を見なければ判断出来ません。社内の分担表を、事故の前から社員を罰するための表として扱わない方が、早い連絡につながっていきます。

費用を見積もるときも、原因の調査を誰か一人の残業で吸収するつもりにはしないでください。送ってしまった文書を洗い出す時間、元の資料と突き合わせる時間、相手への説明を考える時間がかかってきます。根拠なく金額を置くよりも、どの担当の時間が発生するのかを表にしておくと、見通しが立ちやすくなります。問題が起きる前に、連絡先、利用停止の担当、記録の保全先を一度つないでみましょう。

AIセーフティ・インスティテュートの資料は、AIの状態やデータの流れをどれだけ把握できるかを「観測性」、人が挙動を止めたり変えたり出来る程度を「制御性」と呼んでいます。会社の運用に置き換えるなら、どの利用で問題が出たのかが分かることと、その使い方を止められることになります。この資料はAI事業者向けのもので、ここに書いた社内の手順をそのまま指示しているわけではありません。それでも、自社で連絡の練習をするときの2つの問いとして使うことが出来ます。

連絡したあとの細かい初動は、生成AIで問題が起きたときの対応にまとめています。訴訟や裁判例の読み方は、AIと訴訟・裁判例を参考にしてみてください。実際の損害賠償や社員への求償など、法律上の判断が必要になったときは、資料をそろえて弁護士に相談することになります。

小さな訓練で、連絡の詰まりを見つける

事故を想定した大がかりな演習を始める前に、担当者へ疑わしい一件が届いたと仮定して、連絡の順番を紙に書き出してみてください。部門長が休みなら誰に連絡するのか、管理者が履歴を取り出せるのか、顧客への返信を誰が止めるのかが見えてきます。担当表の欄が埋まっていても、連絡先が古いままだと、現場では動けなくなってしまいます。最初は短い確認で十分です。

連絡を受けた側は、すぐに原因を決めつけるより、いつからどの使い方で使っていたのかを確かめる必要があります。社員の入力、AIの出力、社員が直した最終版を分けて保全しておけば、どこで誤りが入ったのかを追いやすくなります。調べている途中で設定を変える必要が出てきたときも、変える前の状況が分かる記録を残しておいてください。同じことを繰り返さないための変更と、起きたことを説明するための保全は、順番を意識して進めることになります。

費用の負担や相手への補償は、社内の表だけでは決められません。相手との契約や個別の事情を見て判断することになります。社員には、早く報告するための連絡先と、報告したあと誰が対応を引き取るのかを伝えておきましょう。迷っているあいだに同じ文書を送り続けてしまわないよう、止める判断を受け取る方をはっきりさせておきたいところです。

※公的資料は2026年11月7日まで、料金と機能は2026年11月7日に確認した内容です。利用条件は契約前に確認してください。

よくある質問

責任の所在を決める出発点は、AIという名前の担当者を作ることではありません。利用を認める方、入力を扱う方、出力を確かめる方、問題を受け止める方の名前を、実際の業務に沿って書き込んでいくことになります。まずは一つの使い方で分担表と承認の流れを試してみて、記録から直すところを見つけてみてください。