生成AIの情報漏洩：事例と5つの経路、入力ルールと法人プランの選び方【2026年11月版】

生成AIの情報漏洩は、「入力した内容がAIに学習される」ことだけが原因ではありません。サービス側の不具合で他人の会話が見えた例、盗まれたアカウントから会話履歴ごと持ち出される例、社内の閲覧権限の設定漏れがAIの回答から表に出る例まで、経路は複数に分かれるのです。この記事では、公式発表で裏付けのある事例をもとに漏洩の経路を5つに分け、経路ごとに効く対策を整理します。社員に配る入力ルールの作り方、個人向けと法人向けのプランで何が違うか、個人情報保護法との関係、漏れてしまったときの初動までを順に扱います。

まとめ：生成AIの情報漏洩は経路別に塞ぐ、入力ルールと契約プランの要点

生成AIからの情報漏洩は、①入力した内容が学習に使われる、②サービス側の不具合、③アカウントの乗っ取り、④外部アプリとの連携や共有リンク、⑤社内の閲覧権限の設定不備、の5つの経路で起きます。社員教育だけで防げるのは①の一部にすぎません。

実務の優先順位ははっきりしています。最初に、業務で使うAIを法人向けプランに寄せ、入力内容が既定で学習に使われない契約にする。次に、情報を4段階ほどに区分し「どの区分をどの環境に入れてよいか」を1枚の表にして配る。そのうえで、多要素認証と利用ログの保存を必須にします。個人情報を入力する場合は、個人情報保護委員会が示した「利用目的の範囲内か」「提供事業者が学習に使わないか」の2点を確認してから使ってください。全面禁止は、私物アカウントでの無断利用を増やすだけなので選びません。

生成AIの情報漏洩事例から見える、入力ミス以外の流出経路と被害の規模

よく語られる事例は、原因がそれぞれ違います。

ChatGPTの2023年3月の不具合でPlus会員1.2%の支払い関連情報が見えた事例

2023年3月20日、ChatGPTで他のユーザーの会話履歴のタイトルが見えてしまう不具合が起き、OpenAIはサービスを一時停止しました。OpenAIが3月24日に公表した経緯の説明によると、原因はRedisへの接続に使うオープンソースのライブラリ「redis-py」の不具合です。特定の9時間に利用していたChatGPT Plus会員の1.2%について、氏名・メールアドレス・支払い先住所・カード種別・カード番号の下4桁・有効期限が他人に表示された可能性があるとされています。カード番号の全桁は表示されていません。

この事例が示すのは、利用者がどれだけ入力に気を付けても、提供側の不具合で情報が出る場合があるという点です。会話履歴に何を残すかは、サービスを信頼するかどうかとは別に、自社で管理すべき項目になります。

マルウェアで盗まれたChatGPTアカウント10万件超が闇市場で売買された事例

シンガポールのセキュリティ企業Group-IBは2023年6月20日、ChatGPTのログイン情報を保存した感染端末が101,134台見つかったと発表しました。情報を盗むマルウェアの記録が闇市場で取引されており、件数は2023年5月に26,802件で最多となっています。地域別ではアジア太平洋が40.5%で最も多い結果でした。

同社は、ChatGPTの標準設定では会話がすべて保存されるため、アカウントを奪われると過去に入力した機密のやり取りやソースコードがまとめて読まれうると指摘しています。AIへの入力そのものは正しくても、端末の感染とパスワードの使い回しで、会話履歴が漏洩元に変わります。

社員がソースコードや会議録を入力した事例と、全面禁止に振れた企業の判断

2023年には、韓国サムスン電子で社員が半導体関連のソースコードや会議の内容をChatGPTに入力していたことが報じられ、同社は社内での生成AI利用を制限しました。報道ベースですが、最もよく引かれる事例です。

ここで押さえたいのは、当時の個人向けChatGPTが入力内容を学習に使いうる設定だった点です。事例は「AIだから危ない」ではなく、「どの環境に何を入れたか」の問題として読みます。

生成AIで情報漏洩が起きる5つの経路と、経路ごとに効く対策の違い

事例を経路で分けると、対策の打ち手が重ならないことが分かります。セキュリティの国際団体OWASPも、LLMを使うアプリの主要リスクの2番目に機密情報の開示（LLM02:2025）を挙げ、個人情報・財務情報・認証情報・社外秘の業務データが応答に混ざる危険を整理しています。

入力内容の学習利用と会話履歴の保存期間が招く、時間差のある漏洩

1つ目の経路は、入力内容が提供事業者の学習に使われ、別の利用者への回答に混ざる可能性です。発生するとしても入力から時間がたってからで、どの情報がいつ出たかを追えません。だからこそ事前に塞ぐしかない経路です。

もう1つ見落とされやすいのが保存期間です。学習に使われなくても、会話は提供事業者のサーバーに一定期間残ります。保存されている間は、不具合やアカウント乗っ取りの被害対象になります。対策は、学習に使わない契約を選ぶことと、保存期間を短くできる設定や一時的な会話モードを使うことの2つです。

サービス側の不具合とアカウント乗っ取りという、利用者の注意では防げない経路

2つ目と3つ目は、前の章で見たOpenAIの不具合とGroup-IBの調査が該当します。どちらも、社員が入力ルールを守っていても起きます。

不具合への備えは、会話履歴に重要情報を残さない運用と、提供事業者のセキュリティ認証（SOC 2やISO/IEC 27001など）の確認です。乗っ取りへの備えは、多要素認証の必須化と、会社のアカウント管理基盤（SSO）からのログインに限ることです。退職者のアカウントが残ったままになる事故も、SSOとアカウントの自動削除の仕組みで防げます。

外部アプリ連携・共有リンク・社内データ参照の権限が広すぎて起きる漏洩

4つ目は、AIを外部のアプリやプラグインとつないだときの経路です。連携先にどの範囲のデータを渡すかを利用者が個別に許可する仕組みが多く、許可の範囲を社員が把握しきれません。会話を共有するリンク機能も、リンクを知っている人なら誰でも見られる設定のまま外部に貼られると、そのまま流出経路になります。

5つ目は、社内の文書をAIに読ませる使い方です。社内データを参照して答えるRAG（検索拡張生成）の仕組みや、Microsoft 365 Copilotのような業務アプリ内蔵のAIは、利用者が閲覧できる範囲の文書を回答に使います。ファイルの共有設定が「全社員に公開」のまま放置されていると、人事評価や給与の資料がAIの回答として本来見るべきでない社員に表示されます。AIが新たに漏らすのではなく、もともとの権限設定の穴を見つけやすくする、という性質の漏洩です。Copilotでの具体的な点検手順はMicrosoft 365 Copilotの過剰共有の可視化とDLP設定の手順で解説しています。

生成AIの入力ルールを情報区分ごとに決める、社員に配る1枚の線引き表

「機密情報を入力しない」というルールだけでは、社員は何が機密に当たるのか判断できません。入力の可否は、情報の区分と利用環境の組み合わせで決めます。

公開・社内限定・機密・個人情報の4区分と、入力してよい利用環境の対応表

多くの会社は情報管理規程ですでに情報の区分を持っています。それを生成AIの利用環境と掛け合わせて、次のような表にします。

表のポイントは、個人向けプランを「公開情報のみ」に絞る点です。個人向けプランは設定で学習利用を止められますが、設定は社員ごとに変えられ、会社から確認できません。会社として保証できない以上、社内限定以上の情報は入れない扱いにします。認証情報（パスワード・APIキー・秘密鍵）はどの環境でも入力禁止とし、表の外に明記してください。

ソースコード・顧客名簿・会議録で迷いやすい入力可否の判断基準

現場で判断が分かれやすいのは次の3つです。

• ソースコード：自社で権利を持つコードは「機密」として扱います。顧客から預かったコードは、顧客との契約で第三者提供や外部サービスへの送信が制限されていないかを先に確認します。
• 顧客名簿：氏名やメールアドレスを含んだまま要約や分析をさせるのではなく、まず仮名に置き換えて入力し、結果を戻すときに元の名前と照合します。
• 会議録：参加者の発言に取引先の非公開情報が含まれることが多いため、社外の参加者がいる会議は「機密」として扱います。

判断に迷ったときは上位の区分に寄せる、という一文をルールに入れておくと運用が止まりません。社員がルールを理解し続けるには配布だけでは足りず、具体例を使った研修が要ります。研修の設計は生成AI研修の階層別カリキュラムと効果測定の考え方が参考になります。

個人情報を入力するときに確認する、個人情報保護委員会の2つの注意点

個人情報の入力については、個人情報保護委員会が2023年6月2日に生成AIサービスの利用に関する注意喚起を出しています。事業者向けの注意点は2つです。

1. 個人情報を含むプロンプトを入力する場合は、その個人情報の利用目的を達成するために必要な範囲内であることを十分に確認する。
2. 本人の同意なく個人データを入力し、そのデータが応答の出力以外の目的で扱われる場合は、個人情報保護法に違反する可能性がある。そのため、提供事業者がそのデータを機械学習に使わないこと等を十分に確認する。

つまり「学習に使わない契約か」は、情報漏洩対策であると同時に、個人情報保護法の観点からの確認事項でもあります。顧客対応の記録をAIで要約するといった使い方を始める前に、プライバシーポリシーに書いた利用目的と照らし合わせてください。

個人向けと法人向けで違う生成AIのデータの扱い、契約前に確かめる5項目

同じ提供事業者のAIでも、個人向けプランと法人向けプランでは入力データの扱いが変わります。代表的な3社の公開情報を比べます（2026年11月時点の各社公式ページの記載）。

ChatGPT・Claude・Geminiの学習利用と保存期間の既定値の比較

OpenAIはモデル改善へのデータ利用の説明で、個人向けのChatGPTでは内容を学習に使う場合があり、設定から停止できること、一時チャットは履歴に残らず学習にも使われないことを明記しています。一方で法人向けのデータ取扱いページでは、ChatGPT Business・Enterprise・APIの入出力は、既定では学習に使わないという説明です。保存時はAES-256、通信時はTLS 1.2以上で暗号化され、条件を満たす組織はデータを日本国内に保管する選択もできます。

Anthropicは2025年8月28日の個人向け規約の改定で、Free・Pro・Maxプランの学習利用を利用者の選択制にしました。許可すると保存期間は5年、許可しなければ従来どおり30日です。Team・Enterpriseを含むClaude for WorkやAPIは、この改定の対象外です。GoogleはWorkspaceの生成AIに関するプライバシーハブで、プロンプトや回答を許可なくモデルの学習に使わないこと、利用者がアクセス権限を持つ範囲の内容だけを参照することを示しています。

法人プランの契約前に確認する学習・保存・認証・ログ・保管場所の5項目

法人向けプランを選ぶときは、価格表より先に次の5項目を確認します。

1. 学習利用：入出力を既定で学習に使わないか。使わない設定が管理者側で固定できるか。
2. 保存期間：会話の保存期間を管理者が短くできるか。削除した会話がいつ消えるか。
3. 認証：SSOと多要素認証を強制できるか。退職者のアカウントを自動で無効にできるか。
4. 利用ログ：誰が何を入力したかを管理者が確認・出力できるか。
5. データの保管場所：日本国内に保管できるか。社内規程や顧客との契約で国外保管が制限されていないか。

5つのうち、学習利用と認証は契約前に必ず満たすべき条件です。利用ログと保管場所は、扱う情報の区分が「機密」「個人情報」に広がる段階で必須になります。

生成AIの情報漏洩対策で全面禁止を選ばない理由と、対策が過剰になる場面

経路と入力ルールが整理できたら、社内でどこまで対策するかを決めます。ここでは判断を言い切ります。

全面禁止が私物アカウントでの無断利用を増やし、漏洩を見えなくする仕組み

全面禁止は、情報漏洩対策としては逆効果です。禁止しても業務でAIを使いたい社員はいなくならず、私物のスマートフォンや個人アカウントでの利用に移ります。その時点で、会社にとって入力内容もアカウントの安全性も把握できない状態です。会社が認めていないAI利用の実態と可視化の方法はシャドーAIの情報漏洩リスクと企業の対策で詳しく扱っています。

IPAの情報セキュリティ10大脅威 2026では、組織向けの3位に「AIの利用をめぐるサイバーリスク」が初めて選ばれました。AIを使わないことで避けられるリスクではなく、使う前提で管理するリスクとして扱われ始めた、と読むのが妥当です。禁止ではなく、法人プランを会社として用意し、入力ルールとログで管理する方針を取ります。

社員数30人以下で機密を扱わない会社に専用AI環境の構築は過剰という判断

反対に、対策をやりすぎる失敗もあります。社員数が30人程度までで、扱う情報が公開情報と社内手順書が中心の会社なら、自社専用のAI環境を作ったり、入力内容を検査する仕組みを入れたりする必要はありません。法人向けプランの契約、多要素認証、1枚の入力ルール表の3つで、費用に見合う水準に届きます。

専用環境や入力内容の自動チェックを検討すべきなのは、顧客の個人情報や取引先の機密を日常的にAIに渡したい業務がある場合と、社内文書をAIに読ませる仕組みを作る場合です。後者は閲覧権限の設計を誤ると、5つ目の経路がそのまま開きます。AIを守る対策と、AIを使った防御の全体像はAIセキュリティの定義と企業の対策の全体像で整理しています。

社内で決められる入力ルールと、外部に設計を頼む権限管理の境目

入力ルールの表、法人プランの選定、研修は、情報システム部門や総務部門が社内で決められる範囲です。デジタル庁が公開しているテキスト生成AIのリスク対策ガイドブック（α版）のような公開資料も、ルールの下書きに使えます。

外部の専門家に頼む価値が出るのは、社内データとAIをつなぐ段階です。文書ごとの閲覧権限をAIの検索に正しく引き継ぐ設計、個人情報を自動で仮名に置き換える前処理、入出力のログ監視は、作り込みの質がそのまま漏洩リスクの大きさに直結します。一創では、こうした生成AIの入出力管理や権限設計を含むAIセキュリティ対策の設計・開発を支援しています。社内ルールの整備と内部統制への組み込みについては生成AIのリスクとガバナンス対策の解説も合わせてご覧ください。

生成AIから情報漏洩が起きたときの初動、削除・パスワード変更・報告の順番

漏洩が疑われたときに慌てないよう、初動の順番を決めておきます。

会話の削除と共有リンクの無効化を先に行い、記録は消す前に残す手順

1. 入力した内容・日時・使ったサービスとアカウントを、画面の保存などで記録する。
2. 共有リンクを発行していれば無効にする。外部アプリとの連携を許可していれば解除する。
3. 該当の会話を削除する。アカウント乗っ取りが疑われる場合はパスワードを変更し、ログイン中の端末をすべてログアウトさせる。
4. 情報システム部門と、個人情報が含まれる場合は個人情報保護の担当部署に報告する。

順番で気を付けるのは1と3です。先に会話を削除すると、何を入力したかを後から確認できず、影響範囲の判断ができなくなります。削除が誤入力による学習利用を確実に止めるかどうかは、プランと設定によって異なるため、提供事業者の説明を確認してください。

個人データの漏洩に当たるかの判断と、個人情報保護委員会への報告の要否

生成AIへの入力が個人データの漏洩に当たるかは、入力先が学習に使う設定だったか、第三者が閲覧できる状態になったかで判断が分かれます。個人向けプランへの入力や共有リンクでの公開は、漏洩のおそれがある事態として検討の対象になります。学習に使わない法人プランへの入力でも、契約内容によって評価が変わるため、社内だけで「問題なし」と決めずに個人情報保護の担当部署や弁護士と確認してください。

個人情報保護法では、要配慮個人情報が含まれる場合や本人の数が1,000人を超える場合などに、個人情報保護委員会への報告と本人への通知が義務になります。報告の期限や手順は、生成AIに限らない情報漏洩一般の初動と同じです。情報漏洩が起きたときの初動と報告義務の解説で、速報3〜5日以内という期限を含めて確認してください。

生成AIの情報漏洩についてよくある質問と、業務利用時の契約・入力ルールの判断基準

生成AIの情報漏洩について、社内ルールを作る担当者からよく寄せられる質問にお答えします。

ChatGPTに入力した内容は、ほかの利用者の回答に出てくることがありますか？

個人向けのChatGPTでは、OpenAIは内容を学習に使う場合があると説明しており、学習に使われた情報が統計的に別の回答に影響する可能性はゼロではありません。ただし入力した文章がそのまま他人の画面に出るわけではなく、学習による影響とは別の仕組みです。設定で学習利用を停止するか、一時チャットを使えば学習に使われません。ChatGPT BusinessやEnterpriseなどの法人向けプランは、既定で学習に使わない契約です。業務で使うなら法人向けプランに寄せてください。

有料プランにすれば、生成AIに機密情報を入力しても安全ですか？

個人向けの有料プランと法人向けプランは別物です。ChatGPT PlusやClaude Proは個人向けで、学習利用の扱いは無料プランと同じく利用者の設定に左右されます。会社として学習に使わないことを保証できるのは、ChatGPT Business・Enterprise、Claude for Work、Google Workspaceのような法人契約です。それでもアカウント乗っ取りやサービス側の不具合のリスクは残るため、認証情報はどのプランでも入力しない運用にします。

生成AIの情報漏洩を防ぐ社内ガイドラインには何を書けばよいですか？

最低限、①会社が認めた利用環境の一覧、②情報区分ごとの入力可否の表、③入力禁止の情報（パスワードやAPIキーなどの認証情報）、④出力を社外に出す前の確認ルール、⑤漏洩が疑われたときの連絡先と初動、の5つを書きます。条文を細かく並べるより、具体例付きの1枚の表にしたほうが現場で守りやすい形式です。経済産業省のAI事業者ガイドラインやデジタル庁のガイドブックも下書きの参考になります。

社員が個人アカウントで生成AIを使っているかどうかは確認できますか？

会社の端末とネットワークであれば、プロキシやセキュリティ製品の通信記録から、生成AIサービスへの接続の有無と頻度を確認できます。ただし私物のスマートフォンからの利用は把握できません。だからこそ、禁止で押さえ込むより、会社として法人向けプランを用意して業務での利用先をそちらに集めるほうが、漏洩を見える範囲に置けます。可視化の方法はシャドーITの例と公的資料に沿った対策も参考になります。

社内文書を読み込ませるAIを作るとき、情報漏洩で特に注意する点は何ですか？

文書の閲覧権限をAIの検索結果にそのまま引き継ぐことです。全社員が1つの検索対象を共有する作り方にすると、本来は役員しか読めない資料の内容が、一般社員への回答に混ざります。利用者ごとに検索できる文書を絞る設計、個人情報を含む文書を取り込み前に除くか仮名にする前処理、誰が何を質問し何が返ったかのログ保存の3点は、作り始める前に要件として決めておいてください。

関連記事

• シャドーAIとは？無断利用が招く情報漏洩リスクと企業の対策：会社が認めていないAI利用の実態と、可視化・方針の決め方を知りたい方へ
• AIセキュリティとは？生成AIのセキュリティ対策とAI固有リスク：情報漏洩以外のAI固有の攻撃や法規制まで全体を押さえたい方へ
• 生成AIのリスクとガバナンス対策｜企業が整える情報統制と社内ルール：利用規程や推進体制など内部統制への組み込み方を知りたい方へ
• Microsoft 365 Copilotの情報漏洩対策｜過剰共有の可視化とDLPの設定手順：業務アプリ内蔵AIの権限設定を具体的に点検したい方へ
• 情報漏洩対策とは：原因別4類型の防ぎ方と発生時の報告義務：生成AIに限らない情報漏洩全般の対策と報告手順を確認したい方へ