生成AIの炎上事例と、会社で防ぐための公開前チェック

生成AIの炎上とは、企業や団体が生成AIで作った画像・動画・文章を公開したことをきっかけに、SNSなどで批判が広がり、謝罪や差し替え、撤去に追い込まれる事態を指して使われる言葉です。公式発表や大手報道で経緯を追うと、燃えた理由はAIを使ったことそのものより、公開前の確認の抜けや、使ったことを説明していなかったこと、組織の立場とのずれにある事例が目立ちます。社員10〜200名の会社でも、採用ページやSNSの画像、取引先に出す資料で同じことが起こり得ます。防ぐ手立ては、公開前に人の目で確かめる工程と、誰がいつどのツールで何を作ったかを後から示せる記録の2つになります。

生成AIをめぐる炎上事例を、燃えた理由で5つに分ける

生成AIをめぐる炎上は、批判の中心になった理由で分けると、ブランドとのずれ・品質の破綻・黙って出したこと・クリエイターへの配慮不足・文章の誤りの5つの型に整理することが出来ます。1つの事例が複数の型にまたがることも多いため、ここでは批判の中心になった理由で振り分けています。事例の日付と経緯は、各社のお知らせと大手報道に書かれている範囲にとどめました。

※各事例の日付・経緯・引用は、2026年9月26日に出典のページを開いて確認した内容です。引用は原文の一部を抜き出したもので、出典に書かれていない事柄（件数・理由・その後の対応など）は載せていません。

型1：会社の立場やブランドとAI利用がずれていた

組織が大切にしてきた立場とAIの使い方が食い違って見えると、出来の良し悪しより先に、なぜその組織がAIを使うのかという反発が起きます。画像そのものに目立った破綻がなくても燃えるのが、この型の特徴になります。

車折神社（京都市）：公式Xのアイコン・2025年3月

境内に芸能の神様を祀る芸能神社がある車折神社は、2025年3月18日に公式Xのアイコンを巫女のイラストに変えました。イラストは神社から依頼を受けたAIイラスト作家が作ったもので、芸能の神様を祀る神社がなぜAIを支持するのか、という批判が集まったと報じられています。神社は公式アカウントを削除し、宮司室長は関西テレビの取材に、勉強不足によって非常に多くの方に不快な思いをさせたとして謝罪の言葉を述べました。取材の時点でも神社の電話は鳴り続け、脅迫めいたメールが何十通も届いていると報じられています。

出典：関西テレビ（2025年4月18日放送・4月21日掲載）。アカウントを削除した日付は同報道に記載がありません。

日本マクドナルド：公式Xの広告動画・2024年8月

日本マクドナルドは2024年8月17日、公式XでAIイラストとアニメーションを使ったマックフライポテトの広告動画を公開しました。X上では、AIを使うこと自体が目的になっていてCMとして良くないといった声が上がり、東洋経済オンラインは、気持ち悪い、買う気がしなくなったといった反応があったと伝えています。AIで作ったことは隠されていませんでしたが、X上の「AIを使うことが目的になっている」という声からは、商品より技術の新しさが前に出たと受け止められた様子がうかがえます。

出典：ITmedia AI＋（2024年8月19日）／東洋経済オンライン（2024年8月20日）。同社の謝罪や動画の削除は、これらの報道には書かれていません。

アニメーターの取引を守る呼びかけに生成AIの素材が使われた公正取引委員会のポスターも、この型に当たります。こちらは次の節で、官公庁・自治体の事例としてまとめて取り上げます。

型2：文字やロゴの崩れなど、AI特有の破綻を見落とした

生成AIの画像は、全体の雰囲気は自然でも、文字・ロゴ・道具の形といった細部が崩れることがあります。作った本人は見慣れてしまい、気づかないまま公開されてしまうのがこの型です。

日本航空：JAL Luxury Card の紹介ページ・2025年8月

日本航空は2025年8月1日にクレジットカード「JAL Luxury Card」を発表し、公式サイトの紹介ページにイメージ画像を載せました。翌2日ごろからX上で不自然な点の指摘が広がり、ITmedia AI＋の記者もフォークの形状や、実物と異なるカードのデザインを確認しています。8月4日、JALは同メディアの取材に対し、画像の一部に生成AIで制作したものが含まれると回答し、同日19時過ぎには指摘された画像を差し替えました。8月7日には広報が、不自然に思われる画像はすべて取り下げたうえで、確認や調整が不十分だったとしておわびしたと報じられています。差し替え前の画像はBlack Card I とその業務委託先が作成・提供したもので、原因として、審査プロセスの必要性が社内に十分浸透していなかったことが挙げられました。

出典：ITmedia AI＋（2025年8月4日）／ITmedia Mobile（2025年8月7日）。差し替え後の画像はAdobe Stockのものと報じられています。

味の素：味の素パーク公式Xのレシピ画像・2026年8月

レシピサイト「味の素パーク」の公式Xが2026年8月14日に投稿しためんつゆのレシピ画像では、写っている「ほんだし」のラベルや文字の一部が崩れていました。X上では、自社製品なら写真を撮ればすぐだろうに、という声が上がっています。同社は8月16日に謝罪し、実写の写真をAIで明るさや背景を変えた結果、文字やラベルが崩れた状態で公開してしまったと説明しました。ゼロから生成した画像ではなく、実写の写真をAIで手直ししただけでも同じことが起きる点は、覚えておきたいところです。

出典：ITmedia AI＋（2026年8月17日）／ASCII.jp（2026年8月17日）。投稿を削除したかどうかは出典に記載がありません。

サクラクレパス：海外イベントの販促物・2025年12月

サクラクレパスは2025年12月9日、スペイン・バルセロナのマンガイベントでグループ会社が展示した販促物について、ロゴの表記が表示規定に反し、ペンのイラストも実際のデザインと異なっていたと公表しました。同社は販促物の使用停止と撤去を要請し、2日後の12月11日の第二報で、販売子会社が生成AIを用いて制作したものだと確認したと発表しています。原因にはグループ内のデザインチェックのプロセスが不十分だったことを挙げ、チェック体制を強化するとしました。

出典：同社のお知らせ第一報（2025年12月9日）／第二報（2025年12月11日）。展示を始めた日は発表に記載がありません。

レベルファイブ：オンライン発表会の映像・2026年9月

ゲーム会社のレベルファイブは、2026年9月10日のオンライン発表会「LEVEL5 VISION 2026 II 夢」でAIを使った映像を流し、不快感や不自然な箇所の指摘が相次ぎました。9月12日には日野晃博社長が自身の公式Xで経緯を説明し、発表会を分かりやすく派手にしたいという思いから、AIを使った実験も兼ねた処理を組み込んでいたと明かしています。9月17日には同社が公式サイトで、AIの使い方の未熟さと人的作業のミスが不信を招いたとして改めて謝罪し、東京ゲームショウ2026の開幕に合わせて一部の映像の修正版を公式YouTubeで公開するとしました。あわせて、ゲームの内容についてはAIの直接使用は一切ないと、使った範囲の線引きも示しています。

出典：ファミ通.com（2026年9月12日）／レベルファイブのお知らせ（2026年9月17日）／ファミ通.com（2026年9月17日）。同社は、AIによる間違いと指摘された部分の中に、意図的な省略や人的作業によるミスも含まれていたと説明しています。

型3：AI利用を黙って出し、指摘されてから説明した

公開の時点でAIを使ったことを説明せず、指摘を受けてから認めると、画像の出来よりも、隠していたのではないかという不信が批判の中心になります。紹介文やクレジットの表記が実態と違っていると、なおさら反発が強まります。

いぶすき菜の花マラソン：大会ポスター・2026年9月

いぶすき菜の花マラソンの第44回大会のポスターは、2026年7月24日に大会の公式サイトで公開されました。公式サイトでは制作者を「イラストレーター」と紹介していましたが、9月7日に菜の花の形が実物と違うといった指摘がX上で広がり、紹介のされ方にも疑問の声が上がりました。事務局は翌8日に声明を出し、生成AIを活用しながらデザイナーが構成や画像の加工・修正を行って仕上げたと説明しています。制作者の表記は「グラフィックデザイナー」に改め、菜の花の形状については制作・校正段階での確認不足だったとして謝罪しました。ポスターは引き続き大会の告知に使う方針と報じられています。

出典：大会事務局の告知（声明PDF）／ITmedia AI＋（2026年9月8日）／ITmedia NEWS（2026年9月9日）。謝罪は菜の花の描写の確認不足についてで、AIの使用そのものは経緯の説明という位置づけです。

神戸風月堂：公式Xの告知画像・2025年8月

神戸風月堂は2025年8月5日、公式Xであんこを大量に誤発注したと生成画像付きで投稿し、続けて無料サービスを告知しました。画像の不自然さも重なって、誤発注商法ではないか、嘘くさいといった告知そのものを疑う声が集まっています。同社は翌6日に補足とお詫びを投稿し、商品が特定されて仕入先に迷惑がかかる可能性があると考え、実物に近い生成画像を使ったものの説明が不十分だったとわびました。

出典：J-CASTニュース（2025年8月6日）。記事内に同社の公式X投稿が埋め込まれています。

この型の事例から分かるのは、AIを使ったこと自体より、使ったことを言わなかったことや、実態と違う紹介をしていたことが不信の火種になるという点です。JALの画像も、生成AIを含むことは、指摘が広がった後に取材へ回答する形で明らかになりました。どこまで表示するかは組織ごとの判断になりますが、少なくとも、どの制作物にAIを使ったかを社内で把握し、問われたらすぐ答えられるようにしておきましょう。表示するときは、AIで下絵を作り人が仕上げた、写真の背景だけをAIで加工した、といった使った範囲が伝わる書き方がおすすめです。

型4：クリエイター軽視や無断学習への反発を招いた

イラストレーターやアニメーターの仕事を奪う、既存の作品を学習したAIで似たものを作っている、という受け止めが広がると、批判は発注した組織の姿勢に向かいます。表現に関わる職業の方々を尊重しているかどうかが問われる型になります。

海上保安庁：リーフレット「ウォーターセーフティガイド」・2024年3月

海上保安庁は2024年3月上旬、海難防止を呼びかけるリーフレットを作成して公式サイトに載せ、公式Xでも3月4日以降に複数回投稿しました。3月28日の投稿をきっかけに、目の部分がまつ毛と同化しているといった点からAIの使用を推測する声や、AIの使用はイラストレーターの仕事を奪うという意見が寄せられています。同庁は翌29日に公式サイトの掲載を削除し、リーフレットの配布の中止を決めました。TBS NEWS DIGは、著作権侵害ではないかとの批判が相次いだと伝えています。担当者はAIを使った理由を、なるべくフラットな状態で一般の方に海難防止のメッセージを伝えたかったからだとBuzzFeed Japanの取材に説明しました。

出典：BuzzFeed Japan（2024年4月1日）／TBS NEWS DIG（2024年4月3日）。X上の投稿は削除せず、新たな投稿もしない方針と報じられています。

ウテナ：全編生成AIのPRアニメと交通広告・2026年5月

ウテナは、2026年4月27日からJR山手線の28駅で、5月1日からはOsaka Metro御堂筋線の主要4駅で交通広告を出し、5月1日には全編を生成AIで作ったPR動画を公式YouTubeで公開しています。公開当初は、通常半年以上かかるアニメ制作を数時間から半日程度に短縮したことや、人の監修のもとで類似性を確認していることを打ち出していました。ところがSNS上で既存のアニメ作品に酷似しているとの指摘が広がり、同社は5月6日に謝罪しています。お詫びの文書では、今回の表現が既存の創作物の独自性や文化的背景に対する敬意を欠いていたとして、動画と関連するSNS投稿を削除し、交通広告を順次撤去すると発表しました。

出典：ウテナ「ウテナ モイスチャーの広告に関するお詫びとご報告」（2026年5月6日）／ITmedia NEWS（2026年5月7日）

作り手への敬意は、法律の上で問題があるかどうかとは別の軸で問われます。ウテナのお詫びが類似の有無だけでなく、既存の創作物への敬意という言葉を使っている点にも、その重さが表れています。

型5：AIに起因するとみられる誤りを含む文章を公表した

炎上は画像や映像だけの話ではありません。AIのハルシネーションに起因するとみられる誤りを含む報告書が公表され、取り下げに至った事故も起きています。

KPMG：AIの活用に関する報告書・2026年6月

TechCrunchの2026年6月13日の報道によると、KPMGは2025年10月に公表した報告書「Redefining excellence in the age of agentic AI」をウェブサイトから取り下げました。報告書で自組織のAI活用について書かれたUBS、英国のNHS、スイス連邦鉄道、ロンドン交通局が、その記述は事実と異なる、または誤解を招くとFinancial Timesに回答したためです。GPTZeroは不正確な箇所を特定し、AIのハルシネーション（もっともらしい誤り）に起因するものだとFTに伝えたとされています。KPMGは社内調査の間は報告書を削除し、広報は、内容の検証や独立した情報源の確認に人が関わることを含め、責任あるAI利用のガイドラインに全員が従うことを求めていると述べました。

出典：TechCrunch（2026年6月13日）。一次報道はFinancial Times（有料記事）です。報告書を出したのがどの国のメンバーファームかは、同報道に記載がありません。KPMG自身がAIの使用を認めたかどうかは、同報道に記載がありません。

取引先に出す提案書や、顧客向けのレポートでも同じことが起こり得ます。画像のような見た目の違和感がないぶん、文章の誤りは公開後に相手から指摘されるまで気づかれにくいものです。

官公庁・自治体の事例：組織として出した広報物でも燃える

官公庁や自治体の広報物でも、生成AIをめぐる炎上は起きています。組織の名前で出した告知であっても、委託の先でAIが使われていたり、外部から届いた画像を確かめずに載せたりすると、同じように批判を受けます。

公正取引委員会：アニメ取引の適正化を呼びかけるポスター・2026年6月

公正取引委員会は2026年6月22日、アニメーターに契約条件や報酬交渉などの点検を呼びかけるポスターを公式Xに投稿しました。アニメーターを支える告知に生成AIを使うのは矛盾している、照明スタッフや無線機の描写がおかしいといった批判が寄せられています。ITmedia NEWSによると、ポスターは制作会社に委託したもので、再委託先の事業所に所属するイラストレーターが、人物や小道具などの素材を生成AIで出力して編集していました。理由は効率的に作成するためだったと委託先を通じて説明されており、公取委は仕様書で生成AIの使用を禁じていなかったとされています。6月25日の時点で、投稿の削除や画像の差し替えを行うかについては明言を避けたと報じられました。

出典：ITmedia NEWS（2026年6月25日）。同報道の時点で、公取委が謝罪したという記載はありません。

宮城県女川町：公式Xのクマ注意喚起画像・2025年11月

女川町は2025年11月26日の午後0時15分、クマへの注意を呼びかける投稿を公式Xに出しました。添えた画像のクマの影などが不自然だとして、フェイク画像ではないかという声が上がり、町は同日午後5時28分に生成AIによるフェイク画像と判明したと発表して謝罪しています。画像は町が作ったものではなく、外部から提供されたものだったと伝えられました。町は、住民の危険回避を優先して知らせたものの、不安や混乱を与えたことをおわびするとしています。

出典：ITmedia AI＋（2025年11月26日）。投稿は削除済みと報じられています。

自前でAIを使わなくても、外部から届いた画像をそのまま載せれば同じ事故になります。見分けのつきにくい偽の画像や動画への備えは、ディープフェイク対策の記事も参考にしてみてください。

公正取引委員会と女川町の事例に共通するのは、AIが使われた工程や偽の画像が混じった経路が、組織の外にあった点です。発注の仕様や受け入れ時の確認で止められなければ、組織の名前で世に出てしまうことになります。

発覚のきっかけ・対応までの日数・誰が作ったか

ここまでの事例を並べ直すと、発覚のきっかけの多くはSNS上の指摘で、指摘が広がってから謝罪や差し替えまで数日以内に動いている例が目立ちます。日数は、出典で公開日（または指摘の日）と対応日の両方が確かめられたものだけを数えました。

公開から対応までの日数

• 女川町（公式Xのクマ注意喚起画像）：投稿から訂正と謝罪まで同日（約5時間）
• 神戸風月堂（公式Xの告知画像）：告知の翌日に補足とお詫び（1日）
• 海上保安庁（リーフレット）：3月28日の投稿から配布中止の決定まで1日（掲載は3月上旬から）
• いぶすき菜の花マラソン（大会ポスター）：指摘の拡散から事務局の声明まで1日（ポスターの公開からは約1か月半）
• 味の素（公式Xのレシピ画像）：投稿から謝罪まで2日
• レベルファイブ（発表会の映像）：発表会から社長の説明まで2日、同社のお知らせまで7日
• サクラクレパス（海外イベントの販促物）：第一報から、生成AIで制作したと確認した第二報まで2日
• 日本航空（紹介ページの画像）：カードの発表から画像の差し替えまで約3日
• ワコム（米国の公式Xの画像）：投稿から見解の発表まで約3日（日本時間で1月7日ごろから1月10日）
• ウテナ（PR動画と交通広告）：動画の公開から謝罪まで5日、交通広告の開始からは9日
• 集英社（AIグラビアのデジタル写真集）：発売から販売終了の発表まで9日

公開からしばらくたって指摘されることもありますが、指摘が広がってからの時間は短く、多くの組織が1〜3日で何らかの説明を出しています。社内の承認に1週間かかる体制では、この速さに追いつけません。炎上してから手順を考えるのではなく、誰が判断して誰が文面を出すかを先に決めておいてください。

発覚のきっかけ

発覚のきっかけは、ほとんどがX上での利用者の指摘でした。JALや味の素、ウテナ、いぶすき菜の花マラソンは、いずれもSNS上の指摘から広がったと報じられました。女川町のクマの画像は、作成者本人からフェイク画像だったと申し出があったという東北放送の報道を、ITmediaが伝えています。社内の誰かが公開前に気づいて止めた事例は、報道の性質上ほとんど表に出ませんが、そこで止めることこそが目指すべき形になります。

社内で作ったか、外部に頼んだか

• 外部に委託・購入：日本航空（Black Card I とその業務委託先）、ワコム（他社から購入）、日本マクドナルド（外部のクリエイターを同社が紹介）、車折神社（依頼を受けたAIイラスト作家）、公正取引委員会（制作会社の再委託先）、いぶすき菜の花マラソン（外部のデザイナー）、女川町（外部から提供された画像）
• グループ内・社内：サクラクレパス（販売子会社）、集英社（週刊プレイボーイ編集部）
• 出典に記載なし：味の素、海上保安庁、ウテナ、レベルファイブ

外部に頼んだ制作物でも、説明や謝罪を求められたのは発注した側でした。公正取引委員会の件では、仕様書で生成AIの使用を禁じていなかったことも報じられています。委託先がAIを使うかどうかを契約の時点で決めておかないと、自分たちのあずかり知らないところで使われてしまいます。

AIを使っていなくても疑われる。潔白を示すには記録が要る

生成AIの炎上には、実際には使っていない、あるいは使ったかどうかを確かめきれない制作物が疑われる事案も含まれます。そうなったときに潔白を示せるかどうかは、誰が・いつ・どのツールで・何を作ったかの記録が残っているかにかかっています。

東洋水産「赤いきつね」のアニメCM・2025年2月

東洋水産が2025年2月6日に公式Xで公開した「赤いきつねうどん」のWebCMは、16日ごろから女性が頬を赤らめて食事する場面に批判が集まり、あわせて生成AIを使っているのではという声も出ました。これに対し、企画を担ったチョコレイトが2月21日に声明を出し、制作のすべての過程で生成AIを一切使っておらず、プロのアニメーターやクリエイターの手作業で作ったと説明しています。同社は、誹謗中傷や虚偽の拡散を控えるよう呼びかけました。

出典：ITmedia NEWS（2025年2月21日）。東洋水産自身の対応は同記事に記載がありません。

制作会社は生成AIを一切使っていないと説明しており、ここでは生成AIを使った事例としては扱っていません。それでも疑いを打ち消すには、制作会社が手作業で作ったと公に説明する必要がありました。

ワコム：米国の公式Xの広告画像・2024年1月

ワコムの米国の公式Xは、2024年1月6日（現地時間）に龍のイラストを使った広告画像を投稿しました。AIで作った画像ではないかという指摘が広がり、投稿は同日中に削除されたとみられると報じられています。ワコムは1月10日（日本時間）に日米の公式Xで見解を発表し、イラストは他社から購入したもので、購入時にAI生成物ではないことを確認し、複数のAI検出ツールでも検出されなかったと説明しました。そのうえで、生成AIを使っていないという確証を得るのは困難だと判断し、このイラストの利用を取りやめています。

出典：ASCII.jp（2024年1月11日）。同社は、イラストの使用プロセスを見直して更新する予定としています。

ワコムは購入時に確認をしていましたが、使っていないと言い切れる材料まではそろわず、利用をやめる判断に至りました。説明の材料として頼りになるのは、制作の時点で残した記録です。文化庁の「AIと著作権に関するチェックリスト＆ガイダンス」も、項目3-1-7で、既存の著作物に依拠していないことを説明できるよう、生成に用いたプロンプトなど生成過程を確認できる状態にしておくことが望まれるとしています。

記録として残しておきたいのは、作った人、作った日、使ったツールとそのアカウント、入力した指示文、元にした素材、人が手を加えた箇所の6つです。これらが社員の個人アカウントの中にしか残っていないと、組織として説明する材料にはなりません。退職や異動のときに、記録ごと消えてしまうことも考えられます。

社員10〜200名の会社で起きやすい場面と、個人アカウントのAIという経路

大企業の広告だけが燃えるわけではなく、社員10〜200名の会社でも、社外に出る制作物のあちこちに同じ落とし穴があります。広告代理店や制作会社を通さず、社員が自分で作って出すものほど、確認の工程が抜けやすくなります。

社外に出る制作物で起きうる場面

• 採用ページ：職場の雰囲気を伝えるイメージ画像をAIで作り、実在しない社員や設備が写ったまま載せてしまう
• 公式SNS：季節の投稿や告知の画像に、商品名や社名が崩れた文字のまま入り込む
• 顧客向けのニュースレター：AIに下書きさせた法改正や補助金の説明に、古い情報や誤った数字が混ざる
• 季節の挨拶状：AIで作ったイラストが既存のキャラクターに似てしまい、そのまま取引先に届く
• 提案書・報告書：AIがまとめた他社事例や統計に出典のない内容が含まれ、先方の確認で発覚する
• 会計事務所などの顧問先向け資料：AIで作った解説を事務所の名前で配り、誤りがそのまま信用に響く

どれも、作った本人に悪気はなく、忙しいなかで手早く仕上げようとした結果として起こりがちな場面です。大企業のように広報部や法務部の確認を通らないぶん、気づく人がいないまま外に出てしまうことも考えられます。

社員が個人アカウントの無料AIで作ったものが、会社名で出る

小さな会社で見落とされやすいのが、社員が自分の判断で使っている個人アカウントのAIです。会社が把握していないAIの業務利用は、シャドーAI（野良AI）と呼ばれています。個人の無料アカウントで作った画像や文章も、会社のSNSや資料に載れば、世の中からは会社の発信として扱われます。

このとき会社の手元には、どのツールで何を作ったかの記録が何も残りません。赤いきつねやワコムのように疑いをかけられても説明の材料がなく、実際にAIを使っていた場合には、どこまで使ったのかを会社が答えられないことになってしまいます。シャドーAIの広がり方と対策はシャドーAI（野良AI）とはで、個人アカウントへの入力から起きた情報漏洩の事例は生成AI・シャドーAIの情報漏洩事例データベースでまとめています。まずは、社外に出す制作物をAIで作っている社員がいるかどうかを、責めない形で聞いてみてください。

法的に問題がなくても燃える理由と、著作権の類似性・依拠性

炎上するかどうかは、法律に違反しているかどうかとは別の物差しで決まります。事前に法務の確認を経ていた事例でも、販売の終了や広告の撤去に追い込まれています。

法務の確認を経ても撤回に至った事例

集英社の週刊プレイボーイ編集部は2023年5月29日、架空のモデルを画像生成で作ったデジタル写真集を発売しました。編集部はITmedia NEWSの取材に、法務部に確認しながら適法の範囲内で進めていると回答していましたが、発売後にさまざまな意見を受け、6月7日に販売終了を発表しています。編集部は、生成AIをとりまく論点や問題点の検討が十分ではなく、AI生成物の商品化についてより慎重に考えるべきだったと説明しました。

出典：ITmedia NEWS（2023年6月7日）。批判の具体的な中身は同記事に記載がありません。

先に取り上げたウテナも、公開前に外部の専門家を交えたリーガルチェックを重ねたと説明しており、それでも既存作品への酷似を指摘されて撤去に至りました。法律の線を越えていないことと、見た人が納得することは、別の問題として考える必要があります。

著作権侵害になるかどうかの考え方：類似性と依拠性

文化庁の「AIと著作権に関する考え方について」の概要は、AIで生成した画像などに既存の著作物との類似性（創作的表現が共通していること）と依拠性（既存の著作物をもとに創作したこと）が認められ、権利制限規定の対象外であれば、著作権侵害になると整理しています。生成AIの学習段階でその著作物が学習されていた場合は、利用者が既存の著作物を知らなくても、通常は依拠性があったと推認されるとされます。生成が適法に行えても、SNSへのアップロードなどの利用まで直ちに適法になるわけではなく、場面ごとに判断が必要とも書かれています。

ただし、この考え方は法的な拘束力を持つものではないと、文化庁自身が断っている点にも注意が要ります。個別の判断は専門家に相談することになりますが、公開前に似た作品がないかを調べる手間は、社内で今日から始めることが出来ます。生成AIと著作権の整理は生成AIと著作権の記事で詳しく整理しました。

出典：文化庁「AIと著作権に関する考え方について【概要】」（令和6年4月・文化庁著作権課）

文化庁のチェックリストで、AIの利用者が確認したい項目

文化庁は2024年（令和6年）7月31日に「AIと著作権に関するチェックリスト＆ガイダンス」を公表し、AIを業務で使う利用者向けに、リスクを下げる方策を8つの項目で示しています。炎上の予防にも役立つのは、次の5項目です。

• 3-1-1：利用する生成AIの仕組みや利用規約を確かめ、従業員などに著作権の教育を行う
• 3-1-2：生成AIの利用に関する内部的なルールを作るなど、著作権侵害を防ぐ措置を講じる
• 3-1-5：生成物を使う前に、既存の著作物と似ていないかをインターネット検索などで確かめる
• 3-1-6：AI生成物を取引の対象にする場合に、AIを使ったことや著作物性を関係者に適切に説明する
• 3-1-7：生成に用いたプロンプトなど、生成過程を確認できる状態にしておく

とくに3-1-5と3-1-7は、炎上の事例と重ねると意味が分かりやすくなります。似た作品を探す工程は酷似の指摘への備えになり、生成過程の記録は、疑いをかけられたときの答えの材料になるでしょう。

出典：文化庁「AIと著作権に関するチェックリスト＆ガイダンス」（令和6年7月31日）。掲載ページは文化庁「AIと著作権について」です。

炎上しなかった事例との比較で注意したいこと

解説記事では、AIで作ったことを最初から明かしていたタレント広告などが、炎上しなかった例として取り上げられることがあります。ただ、燃えなかった事例は謝罪文のような公式の記録が残らないため、何が効いたのかを出典で確かめるのは難しくなります。出典で経緯を追える事例の中では、ウテナのように公開当初から全編を生成AIで作ったと打ち出していた広告も、撤去に至りました。AIを使ったと明かすことは大切ですが、それだけで燃えないわけではありません。開示・確認・記録の3つをそろえて、はじめて説明の出来る公開物になると考えておきましょう。

炎上したときの初動と対応方針

炎上したときの初動は、事実の確認、公開を続けるかどうかの判断、説明の3つを、1〜3日のうちに進めるのが事例から見た目安になります。各社の謝罪や説明の文面を並べると、含まれている要素には、はっきりした共通点があります。

謝罪・説明の文面に共通する5つの要素

• どこまでAIを使ったかという範囲（サクラクレパスは販売子会社が生成AIで制作したと発表し、味の素は実写の写真をAIで加工したと説明）
• 何を確かめなかったかという原因（JALは審査プロセスの必要性が社内に浸透していなかったこと、サクラクレパスはデザインチェックのプロセスが不十分だったことを挙げた）
• 公開物をどうするかという措置（JALは画像の差し替え、ウテナは動画の削除と交通広告の撤去、レベルファイブは修正版への差し替えを表明）
• 使っていない範囲の線引き（レベルファイブは、ゲームの内容にはAIの直接使用はないと明言）
• 再発防止（サクラクレパスはチェック体制の強化、ウテナはチェック体制の全面的な見直し、ワコムはイラストの使用プロセスの見直しを表明）

使った範囲や原因を示さないまま、おわびの言葉だけを出すと、何が起きたのかを確かめようとする指摘が続きやすいと考えられます。事実を示すには、誰がどのツールで作ったかを社内ですぐに調べられることが前提になるでしょう。

初動の役割と順番を平時に決めておく

初動で迷わないよう、役割と順番は平時のうちに決めておきましょう。まずSNSの指摘に気づいた人が、該当の投稿や画像の場所と指摘の内容を責任者に伝えます。次に、作った人と使ったツールを記録から確かめ、公開を続けるか止めるかを責任者が判断します。説明の文面は上の5つの要素に沿って作り、出す窓口を1つに絞ってください。

車折神社では、電話が鳴り続け、脅迫めいたメールが何十通も届いていると報じられています。電話やメールを受ける方の負担も大きくなるため、問い合わせへの答え方をそろえ、受ける方を守る段取りも初動の中に入れておくと安心です。

公開前に人の目で確認する工程と承認フロー

公開前の確認は、作った本人ではない人が、決まった項目に沿って見る形にするのが基本になります。JALが原因に挙げたのも、審査のプロセスが社内に十分浸透していなかったことでした。

承認フローの組み方

社員10〜200名の会社であれば、大がかりな審査部署を作る必要はありません。社外に出る制作物でAIを使ったものは、作った人がチェック表を埋め、部署の責任者か広報の担当者が確認してから公開する、という2段階で十分に回ります。採用ページや広告のように長く残るものと、SNSの日々の投稿とで、確認する人の階層を変えるのもよい方法です。

外部に制作を頼むときは、発注の時点で生成AIを使ってよいかどうかを決め、使う場合は納品時にどこに使ったかを申告してもらう取り決めを入れておきましょう。公正取引委員会のポスターのように、仕様書で禁じていないまま再委託先で使われると、発注した側が経緯を把握出来ません。

1枚で配れる公開前チェック

次の10項目は、ここまでの事例から逆算した公開前の確認項目です。印刷して、制作物を出す前に上から順に確かめてみてください。

• どの工程にAIを使ったかを記録した作った人・日付・ツールとアカウント・指示文・元にした素材・人が手を加えた箇所を、決まった場所に残します。
• 文字・ロゴ・自社製品の表記を原本と見比べた実写の写真をAIで加工しただけでも、ラベルや文字が崩れることがあります。
• 作った本人以外が、細部を拡大して見た手足や道具、背景の物の形など、全体を眺めているだけでは気づきにくい箇所を確かめます。
• 既存の作品やキャラクターに似ていないか検索した文化庁のチェックリスト（3-1-5）が挙げる、画像検索や文章検索による確認です。
• 自社の立場や告知の中身と矛盾しないか考えたクリエイターの支援や伝統を掲げる組織ほど、AIを使ったことそのものが問われます。
• 制作者の紹介やクレジットが実態と合っているAIで下絵を作った制作物を、手描きのイラストと受け取れる表記で紹介すると、不信の元になります。
• 外部の制作会社と再委託先のAI利用を確認した発注時に可否を決め、納品時にどこで使ったかの申告を受けます。
• 数字・固有名詞・引用を一次資料で確かめたAIが書いた文章は、実在する組織についての誤った記述を含むことがあります。
• 実物の写真で代えられないか検討した自社製品や自社の職場は、撮影した写真を使えばAIの破綻を心配せずに済みます。
• 指摘が来たときの判断者と窓口が決まっている公開を止めるかどうかを決める人と、説明を出す窓口を1つに決めておきます。

社内ガイドラインの策定とリテラシー教育で決めること

社内ガイドラインでは、使ってよいツール、社外に出すときの確認と開示、記録の残し方の3つを最低限決めておく必要があります。文化庁のチェックリストも、生成AIの利用に関する内部的なルールの策定と、従業員などへの著作権教育を、利用者の取り組みとして挙げています。

• 使ってよいツールとアカウント（会社が用意した環境に限り、個人の無料アカウントでは業務の制作物を作らない）
• 社外に出す制作物の区分（AIを使ってよいもの、使うなら承認が要るもの、使わないものを分ける）
• 開示の方針（どの制作物に、どんな書き方でAIの利用を表示するか）
• 記録の残し方（作った人・日付・ツール・指示文・人が手を加えた箇所を、決まった場所に残す）
• 外部委託のルール（発注時のAI利用の可否と、納品時の申告）
• 炎上時の対応（判断する人、文面を出す人、問い合わせの窓口）

ガイドラインを作っても、読まれなければ現場は変わりません。教育では、ここで取り上げたような実際の事例を見せて、どこで気づけたかを一緒に考える時間を取ると、自分の仕事に引きつけて理解してもらいやすくなります。ガイドライン全体のひな形と作り方は生成AIの社内ガイドラインの作り方で紹介しています。

会社で安全に使うには、ルールと利用ログの両方をそろえる

生成物をそのまま出す事故を防ぐには、社内ルールと、どのツールで何を作ったかを後から確かめられる利用ログの両方が要ります。ルールだけでは守られているかを確かめられず、ログだけでは何を確認すべきかが決まらないためです。

利用ログは、会社が用意した環境で使ってはじめて会社の手元に残ります。社員が個人の無料アカウントで作ったものは、履歴が本人のアカウントの中にあるだけで、会社からは見えません。記録が会社に残る環境を用意しておけば、疑われたときに、どこでAIを使いどこで使っていないかを説明する材料になります。管理者が利用ログを確認でき、使えるツールや権限を会社側で設定できる環境を選べば、ガイドラインで決めたことを仕組みで支えることが出来ます。

導入のときは、社外に出す制作物を作る部署から先に会社の環境へ移し、チェック表と一緒に運用を始めてみるのがおすすめです。使い方が定着したら、ほかの部署にも広げていきましょう。法人のAI活用に関する他の記事はAI活用コラム一覧にまとめています。

よくある質問

生成AIを使ったことは、公開物に必ず表示しなければいけませんか？

どの公開物にどう表示するかは、組織ごとに方針を決める事柄になります。事例を見ると、制作者の紹介が実態と違っていた場合や、指摘を受けてから初めてAIの利用を認めた場合に、不信が大きくなっています。少なくとも、どの制作物にAIを使ったかを社内で記録し、問われたらすぐに答えられる状態にしておくことをおすすめします。

法的に問題がなければ、炎上の心配はいりませんか？

炎上するかどうかは、法律に違反しているかどうかとは別の物差しで決まります。法務部に確認しながら進めていたAIグラビアの写真集が販売終了になった例や、外部の専門家を交えたリーガルチェックを経た広告が撤去された例があります。著作権の面では、文化庁のチェックリストが示すように、公開前に既存の作品と似ていないかを検索などで確かめることが出発点になります。

AIを使っていないのに、AIで作ったと疑われたらどうすればよいですか？

誰が、いつ、どの道具で、何を作ったかを示す記録を出せるかどうかが鍵になります。赤いきつねのCMでは、企画した会社が手作業で制作したと声明を出しました。ワコムは購入時に確認していたものの、生成AIを使っていないという確証を得るのは困難だとして、イラストの利用を取りやめています。制作過程の記録は、平時から残しておく必要があります。

外部の制作会社に頼んだ画像でも、発注した側が批判されますか？

事例では、外部に委託した制作物でも、説明や謝罪を求められたのは発注した側でした。JALの紹介ページの画像は提携先のBlack Card I とその業務委託先が作ったもので、公正取引委員会のポスターは再委託先で生成AIが使われていました。発注の時点でAIの利用の可否を決め、使った場合は納品時に申告してもらう取り決めを入れておくと安心です。

社員が個人の無料アカウントのAIで作った画像を、会社のSNSに使ってもよいですか？

おすすめしません。世の中からは会社の発信として扱われる一方で、どのツールで何を作ったかの記録が会社に残らず、疑われたときや問題が起きたときに説明が出来ないためです。社外に出す制作物は、利用ログが会社に残る環境で作るようにルールを決め、公開前のチェックとあわせて運用してみてください。

炎上してしまったら、最初に何をすればよいですか？

まず事実を確かめ、公開を続けるか止めるかを責任者が判断します。各社の説明の文面には、AIを使った範囲、確認が足りなかった原因、公開物への措置、使っていない範囲の線引き、再発防止策という要素が共通して含まれていました。多くの組織が指摘の広がりから1〜3日で説明を出しているため、判断する人と窓口を平時に決めておきましょう。

まとめ

生成AIの炎上は、ブランドとのずれ、細部の破綻、黙って出したこと、クリエイターへの配慮不足、文章の誤りという5つの型で起きています。発覚のきっかけの多くはSNS上の指摘で、組織は指摘の広がりから1〜3日のうちに説明や差し替えを求められました。

法律の上で問題がなくても燃えることがあり、AIを使っていないのに疑われることもあります。どちらの場面でも頼りになるのは、公開前に作った本人以外が確かめる工程と、誰がいつどのツールで何を作ったかの記録です。まずは社外に出す制作物を洗い出し、チェック表を1枚配るところから始めてみてください。