ChatGPTのデメリット｜会社で消せるもの・残るもの

ChatGPTのデメリットとは、会社の業務でChatGPTを使ったときに起こりうる損のことで、大きく「使う環境を会社で決めると消せるもの」と「どの契約でも残るもの」に分かれます。入力が学習に使われる心配や、社員ごとに設定がばらばらになる問題は、会社で契約した環境にそろえると消すことが出来ます。一方で、誤った回答や著作権のおそれは法人向けの契約でも残り、社内のルールと人の確認で弱めるしかありません。仕組みや料金の全体像はChatGPTとは？会社で使う前に知る料金・学習設定・始め方で解説しているので、あわせてご覧ください。

※OpenAIの公式ヘルプ、利用規約、OpenAI サービス契約、ビジネスデータのページ、個人情報保護委員会と文化庁の公表資料を、2026年9月26日に開いて確認した内容です。公式ページからの引用は原文のまま（一部を中略）で、ヘルプの画面表記は更新で変わることがあります。

ChatGPTのデメリットは「消せるもの」と「残るもの」に分かれる

ChatGPTのデメリットは、会社の契約で消えるものと、どの契約でも残るものを分けて考えると、打つ手がはっきりします。上位の解説記事の多くはデメリットを横一列に並べていますが、会社にとって大事なのは、どれが環境の選び方で片づき、どれに人の手当てが要るのかという区別になります。

次の表は、OpenAIの公式の記載をもとに、主なデメリットを3つに仕分けたものです。残るデメリットについては、社内で誰が受け持つのかも添えました。

表の上3行は、社員の善意や注意力ではなく、会社がどの環境を用意するかで決まる問題です。下の7行は法人向けの契約に切り替えても消えず、確認の手順で弱めるしかありません。ここを混ぜたまま「法人プランにしたから安心」と考えると、残る側の手当てが抜けてしまいます。

前提：ChatGPTとは、メリットは何か

デメリットを比べる前に、何のために使うのかを短く確認しておきます。詳しい仕組みやモデルの変遷、料金表は親記事にまとめているため、ここでは判断に要る部分だけを取り上げます。

ChatGPTとは（定義）

ChatGPTは、米国のOpenAIが提供している対話型の生成AIサービスです。文章で質問や指示を送ると、文章・表・コードなどで答えが返ってきます。無料版とGo・Plus・Proは個人向けのプランで、会社向けにはChatGPT BusinessとChatGPT Enterpriseが用意されています。プランの違いや人数ごとの料金はChatGPTとはの料金の節をご確認ください。

ChatGPTのメリット（業務の効率化・アイデア出し・調べもの）

業務で使うメリットは、白紙から始めていた作業を下書きの手直しから始められることにあります。メールや報告書の下書き、議事録の整理、長い資料の要約が代表的な使い方となります。

企画の切り口や想定問答を短時間で数多く並べてもらう、多角的な視点のアイデア出しにも向いています。調べものでは、検索結果のページを1つずつ開く代わりに、質問に対する答えがまとまって返ってくるため、当たりを付けるまでの時間を縮めることが出来ます。

業務での活用例と、デメリットが出やすい場面

活用例としては、社外向けメールの言い換え、会議メモからの議事録作成、規程や契約書の要点の抜き出し、表計算の関数やマクロの相談などが挙げられます。ただ、この例のうち、顧客の名前や社内の数字が入る作業ほど、後で述べる学習利用や誤った回答の影響を受けやすくなります。便利な場面とデメリットが出やすい場面は重なっている、という前提で読み進めてみてください。

会社の環境を決めると消せるデメリット

学習利用、設定のばらつき、退職者のアカウントの3つは、社員の個人アカウントで使っているから起きるデメリットです。会社で契約した環境にそろえると、この3つはまとめて片づきます。

入力内容が学習に使われ、情報漏洩の入口になる

個人向けのChatGPTでは、入力した内容が既定でモデルの改善に使われうる設定になっています。OpenAIの公式ヘルプは「ChatGPT、Codex などの個人向けサービスをご利用の場合、お客様のコンテンツはモデルのトレーニングに使用されることがあります。」と説明しています。別のヘルプ記事では、Plus・Pro・Freeを個人用ワークスペースで使う場合について、データ共有は「デフォルトで有効」とあります。

有料のPlusやProに上げても、個人向けのプランである点は変わりません。会社として見過ごせないのは、個人情報保護委員会の注意喚起（2023年6月2日）との関係です。同委員会は、本人の同意なく個人データを含むプロンプトを入力し、それが応答の出力以外の目的で扱われる場合は個人情報保護法に違反する可能性があるとして、入力する事業者に対し、提供事業者が「当該個人データを機械学習に利用しないこと等を十分に確認すること」を求めました。同じ文書の中で、OpenAIに対して個別に注意喚起を行ったことにも触れています。

学習に使わせない設定は社員ごとにばらばらになる

個人アカウントでも、学習に使わせない設定（オプトアウト）は出来ます。公式ヘルプが案内する設定名は、プロフィールアイコンから開く設定の中の「データコントロール」にある「すべての人のためにモデルを改善する」で、これをオフにします（同じヘルプ内に「データ管理」「すべてのユーザー向けにモデルを改善する」という表記も混ざっています）。

問題は、この設定が1人ずつの画面で行うものだという点です。社員が30人いれば30個の設定があり、全員がオフにしたかを会社の側でまとめて確かめるのは難しくなります。さらに公式ヘルプには、次のような例外も書かれています。

• オフにしても、回答に「良い回答」「良くない回答」などのフィードバックを送ると、そのフィードバックに関連する会話全体がトレーニングに使われることがある
• 対象は、オプトアウト後の新しい会話と説明されている
• Codexには、フル環境でのトレーニングに関する別の設定があり、ChatGPT側の設定では変わらない
• 一時チャットは学習に使われないが、安全上の目的でコピーが最長30日間保持される場合があり、保存すると通常のチャットの設定に戻る

社員に「オフにしておいてください」と伝えるだけでは、この例外まで守られているかは分かりません。設定の手順そのものはChatGPTに学習させない方法で画面の順に解説しています。

退職した社員の個人アカウントに会話が残る

個人アカウントで業務に使っていた場合、その会話は本人のアカウントに残ります。公式ヘルプでは、通常のチャットは削除するまで履歴に残ると説明されており、退職した後も本人が開ける状態のままとなってしまいます。

個人向けの利用規約は、アカウントの認証情報を他人と共有することを禁じ、アカウントで起きるすべての活動に本人が責任を負うと定めています。つまるところ、個人アカウントは本人の契約であり、会社のものではありません。

ChatGPT Businessでは、会話は会社のワークスペースの中にあります。公式ヘルプ（英語版）によると、メンバーをワークスペースから外すとその人のアクセスはすぐに止まり、チャットやファイル、canvasの文書は期限を決めずに保持されます。ただし、管理者が他のメンバーの会話を自由に読めるわけではありません。同じく公式ヘルプは、既定では管理者や所有者がメンバーの非公開チャットをすべて見ることは出来ないと説明し、Businessのワークスペースにはセルフサービスのデータエクスポートもないとしています。退職の手続きにAIのアカウントの停止を入れられるかどうかは、この違いで決まると考えてよいでしょう。

法人向けプラン・API版なら入力は学習に使われない

法人向けの環境では、学習に使わないことが既定になっています。OpenAIのビジネスデータのページには「デフォルトでは、ChatGPT Enterprise、ChatGPT Business、ChatGPT Edu、ChatGPT for Healthcare、ChatGPT for Teachers、または（中略）API プラットフォームのデータ（入力および出力を含む）は、モデルの学習や改善に使用されません。」という記載があります。

契約書にあたるOpenAI サービス契約（2026年1月1日発効）も、Business・Enterprise・APIを対象に、顧客が明示的に同意しない限り、サービスの開発や改善に顧客コンテンツを使わないと定めています。個人アカウントでは本人の設定しだいだった学習の扱いが、法人向けでは契約の条件になるわけです。なお、エンタープライズプライバシーのページには、フィードバック機能などを通じて明示的にデータ共有に同意した場合は、共有されたデータを学習に使うことがあるとも書かれています。Businessと個人プランの違いの一覧はChatGPT Businessと個人プランの違いにまとめてあります。

どの契約でも残るデメリット

ここから挙げるデメリットは、BusinessやEnterpriseに切り替えても残ります。OpenAI サービス契約は法人向けの契約ですが、出力が正確で適切かを評価することについて、顧客が「単独で責任を負います」と定めています。

誤った回答をもっともらしく出す（ハルシネーション）

生成AIが事実と違う内容をもっともらしく出すことを、ハルシネーションと呼びます。OpenAIは2022年11月30日の公開時の告知で、ChatGPTは「もっともらしく聞こえても、正しくない回答や意味不明な回答をすることがあります」と自ら書いていました。個人向けの利用規約にも「アウトプットは常に正確であるとは限りません。」という一文があり、専門家のアドバイスの代わりに依拠すべきではないとしています。

出力を確かめずに使う怖さは、国内の公表事案からも読み取れます。国内で公表された19件を出典つきで並べた生成AI・シャドーAIの情報漏洩事例（2026年9月6日確認）では、AIの生成物を人が確認せずに外へ出して問題になった型が、19件のうち9件で最も多くなっていました。

同じ質問でも回答が変わり、指示どおりに返らないこともある

ChatGPTは、質問の言い回しを少し変えるだけで答えが変わることがあります。公開時の告知には、ある言い回しでは分からないと答えたのに、少し言い方を変えると正しく答える例が挙げられていました。指示が曖昧だと意図を推測して答えるため、欲しい形と違う出力が返ることもあります。

大事な内容ほど、聞き方を変えて2回確かめる、条件や出力の形を指示文に書き込む、といった一手間が要ります。

最新情報に弱い

モデルには学習したデータの時点があり、それより後の出来事は、検索機能で補わない限り答えに反映されません。検索を使った答えでも、出典のページが古いこともあります。法改正や料金の改定のように日付が大事な話題では、答えに出てきた出典を自分で開いて日付を確かめてみてください。

著作権侵害のおそれ

生成物が既存の作品に似ていた場合の責任は、使った会社の側に残ります。個人向けの利用規約もOpenAI サービス契約も、他の利用者が似た出力を受け取る場合があると書いており、出力が一点物である保証はありません。

文化庁は「AIと著作権に関する考え方について」（2024年3月15日）と「AIと著作権に関するチェックリスト＆ガイダンス」（2024年7月31日）を公表しており、後者は生成物を使う前に既存の著作物と似ていないか確認することを利用者に勧めています。詳しい線引きは生成AIと著作権をご覧ください。

差別的・偏った・不適切な出力

学習データの偏りは、回答にも表れることがあります。OpenAIは公開時の告知で、不適切な依頼を断るよう努めているものの、有害な指示に反応したり偏った行動をとったりすることがあると認めていました。採用の文面、人事評価のコメント、顧客への案内文は、出力をそのまま使わず、表現を人の目で見直す工程を残しましょう。

医療・法律・税務などの専門判断と、感情の理解

個人向けの利用規約は、信用、教育、雇用、住宅、保険、法律、医療などの重要な決定について、個人に関係するアウトプットを使ってはならないと定めています。使用に関するポリシーでも、有資格者の適切な関与のない、資格を要する個別の助言の提供も禁止事項の1つです。

感情の機微も、ChatGPTが苦手とする分野になります。入力されていない取引先との経緯や相手の気持ちは考慮されないため、謝罪文や人事の連絡は下書きにとどめ、最後は人が書き直す前提にしておくのが無難でしょう。

サービス側の事故は会社では防げない

契約を法人向けにしても、提供する側の不具合までは会社で防げません。OpenAIは2023年3月24日、同月20日に起きた障害について、オープンソースのライブラリ（redis-py）の不具合により、一部の利用者に他の利用者のチャット履歴のタイトルが見えていたと公表しました。

同社の発表によると、特定の9時間にアクティブだったChatGPT Plus会員の1.2%について、氏名、メールアドレス、支払い用の住所、カードの種類と下4桁、有効期限が他人に見えた可能性があったとされています（カード番号の全桁は見えていないと説明）。同社は、実際に他人に見られた人数は極めて少ないとの見方を示しました。この種の事故に会社が出来るのは、そもそも入れる情報を絞っておくことだけとなります。

アカウントの乗っ取り（多要素認証の設定）

パスワードが漏れた場合に備える多要素認証（MFA）は、ChatGPTの設定の「セキュリティとログイン」から有効にできます。認証アプリ、プッシュ通知、SMSやWhatsAppのコード、パスキーから選ぶ形になっています。

注意したいのは、公式ヘルプが、管理者がワークスペースでMFAを必須にできるかという問いに「現時点では対応していません」と答えている点です。SAML SSOを使わない場合、多要素認証をオンにするのは社員一人ひとりの操作になります。乗っ取りが疑われるときは、同じ画面の「すべてのデバイスからログアウト」を使うと、最大30分ほどで全セッションが切れると案内されています。ログインの安全性はChatGPTのログインは危険？でも取り上げました。

悪用のリスクと利用規約の禁止事項

文章を自然に整える力は、フィッシングメールの文面や悪意のあるコードづくりにも向けられかねません。OpenAIの使用に関するポリシー（2025年10月29日発効）は、欺瞞、詐欺、スパム、なりすましや、悪質又は不正なサイバー行為への利用を禁じています。

会社として受け止めたいのは、日本語が自然な不審メールが届く前提で、社員への注意喚起を見直すことでしょう。あわせて、利用規約が禁じるアカウントの共有（1つの有料アカウントを部署で使い回すこと）をしていないかも点検してみてください。

過信・依存で考える力が落ちる

答えがすぐに返ってくるほど、確かめずに使う癖がつきやすくなります。利用規約が、アウトプットを「真実又は事実に基づく情報の唯一の情報源」として依拠すべきではないと書いているのも、この点への注意です。自分で考えた案と比べる、根拠を尋ねて元の資料に当たる、といった使い方を社内で共有していくことが大切になります。

ChatGPTはやめたほうがいい？場面別の判断

ChatGPTを一律にやめる必要はなく、場面ごとに使う環境と確認の有無を決めれば足ります。禁止だけにすると、社員が個人アカウントで隠れて使い続け、会社から見えない利用が増えてしまいます。社員が個人のChatGPTを業務に使っていたと分かったときの進め方は個人ChatGPTの業務利用が発覚したらで整理しました。

業務と入れる情報の組み合わせで判断すると、次のようになります。

• 公開情報をもとにした文面の下書き・言い換え個人アカウントでも使える範囲です。ただし学習の設定は本人任せになるため、会社の環境があればそちらを使います。
• 社内限りの資料の要約・議事録の整理会社が用意した環境でのみ使います。個人アカウントには入れません。
• 顧客・従業員の個人情報を含む作業会社の環境でも、利用目的の範囲内かを確かめてから使います。個人アカウントでは扱いません。
• 社外に出す文章（案内文・広告・プレスリリース）どの環境でも、送る前に確認者を通します。
• 数値・法令・契約条件の確認ChatGPTを答えの出どころにせず、元の資料で確かめます。
• 採用・評価・与信など個人に影響する判断出力をそのまま判断に使いません（利用規約の禁止事項）。

上の2行目と3行目が個人アカウントで回っているなら、見直しの優先度は高いと言ってよいかもしれません。反対に、公開情報の下書きだけに使っている段階なら、やめるより先に会社の環境とルールを整えるほうが効果が出やすいでしょう。

入力してはいけない情報の例

個人アカウントに入れてはいけない情報は、少なくとも次の5つです。会社の環境であっても、2つ目と5つ目は入力しない運用が安全になります。

• 顧客・取引先の氏名、連絡先、取引の履歴
• パスワード、APIキーなどの認証情報
• 従業員の人事評価、給与、健康に関する情報
• 未公表の決算、取引条件、新製品の情報
• 秘密保持契約の対象になっている資料の原文

部署ごとの具体例と、社員に配る入力禁止の一覧は生成AIに入力してはいけない情報で公開しています。うっかり入力してしまった場合の初動はChatGPTに個人情報を入力してしまったらをご確認ください。

残るデメリットを抑える社内ルール（通知文のひな形つき）

環境を変えても残るデメリットには、短いルールと確認の手順で備えます。長いガイドラインを最初から作るより、守ってほしいことを3つに絞って配るほうが、社員10〜200名の会社では定着しやすいと考えられます。

出力は人が確認し、用途を限る

個人向けの利用規約は、アウトプットを使ったり共有したりする前に、必要に応じて人による確認を行うなどして、正確性と適切性を評価するよう求めています。確認者を決めるときは、社外に出す文章、数字や固有名詞を含む文章、法令や契約に関わる文章の3種類に絞ると、現場の負担が増えすぎません。

用途も最初は限っておきましょう。下書き、要約、言い換え、アイデア出しのように、間違っても人が直せる仕事から始め、判断そのものを任せる使い方は後回しにします。

社員に配る通知文のひな形

総務から全社員に送る短い通知文の例です。会社名や担当者名を入れ替えて、そのまま使うことが出来ます。

入力禁止の一覧まで含めた社内規程にしたい場合は、生成AIの社内ガイドラインの作り方のひな形が使えます。研修では、この3つの約束に、表の下7行のデメリットを実例で1つずつ添えるところから始めてみてください。

今後の展望：精度が上がっても確認の工程は残る

モデルの精度は、新しいモデルが出るたびに上がってきたとされます。それでも、出力の正確さを評価する責任が利用者にあるという契約の書き方は、個人向けの規約にも法人向けの契約にも残っています。精度の向上を待って確認をやめるのではなく、確認の手間が軽くなっていく、と受け止めておくのが現実的でしょう。AI全般の問題点や社会的な論点はAIの問題点とはで扱っています。

よくある質問

まとめ

ChatGPTのデメリットは、使う環境を会社で決めると消せるものと、どの契約でも残るものに分かれます。学習利用、社員ごとにばらばらな学習オフの設定、退職者の個人アカウントに残る会話は、法人向けの環境にそろえると片づきます。

誤った回答、回答のぶれ、著作権、偏り、サービス側の事故は、法人向けの契約でも残ります。OpenAI サービス契約が出力の評価を顧客の責任としているように、この部分は社内のルールと人の確認で弱めていくことになります。まずは表の上3行を環境で片づけ、下の7行には3つの約束の通知文から手を付けてみてください。

ほかの記事はAI活用コラム一覧からご覧いただけます。