安全性・社内ルール公開日

生成AIの情報漏洩の事例と対策——よくある6つのパターンと、社内で防ぐチェックリスト

結論

生成AIの情報漏洩の事例は、ほとんどが「社員が機密を入力した」「学習や共有の設定を確かめずに使った」「アカウントや共有リンクの管理が甘かった」という使う側の原因で起きています。

  • 対策は、入力してよい情報の線引き、法人向けの契約と設定の確認、アカウントと共有の管理の3つが中心です。
  • 事例を6つのパターンに分けると、自社で起きそうな場面と打つ手が見えます。
  • 禁止するだけでは隠れて使われるため、安全な使い道を会社が用意することが一番の予防になります。

株式会社MEDISITE 執行役員・AI事業責任者の吉村聡一郎が、生成AIの利用で情報漏洩が起きた事例のパターンと、中小企業が社内で取れる対策について解説します。「生成AIで情報が漏れた」というニュースを見て、自社でも社員がChatGPTなどに顧客情報を入れていないか心配になった経営者の方は多いはずです。一方で、何が起きると「漏洩」になるのか、どこまで気にすればよいのかは分かりにくく、全面禁止にするか、黙認するかの両極端になりがちです。当社は業務に合わせたAIを組み込む「AI社員」を提供しており、導入のたびに情報の扱いを先に決めています。この記事では、報道された事例をもとに、生成AIの情報漏洩を6つのパターンに分け、それぞれで何が起きたか、中小企業ならどこで同じことが起きそうか、どう防ぐかを整理します。最後に、社内で確認するチェックリストを載せています。

生成AIの情報漏洩は「使う側の原因」で起きる事例がほとんど

生成AIの情報漏洩というと、AIが社内の情報を勝手に抜き取るような場面を想像するかもしれません。しかし、これまでに報道された事例の多くは、AIの仕組みそのものよりも、使う側の入力・設定・管理に原因があります。

情報が外に出る道すじは、大きく次の3つです。

道すじ何が起きるか主な原因
入力社員が機密や個人情報をAIに入力し、社外のサービスに情報が渡る入力してよい情報の線引きがない
設定・契約入力した内容がAIの改善(学習)に使われる設定のまま使われる、保存期間や保存場所を知らない無料版・個人契約のまま業務に使っている
管理アカウントの乗っ取り、共有リンクの公開、退職者のアカウントが残る会社としてアカウントを管理していない

サービス側の不具合で情報が見えてしまった例もありますが、これは利用者側では防ぎきれません。だからこそ、利用者側で防げる「入力・設定・管理」をしっかり押さえることが、現実的な対策になります。

ポイント

「AIは危ないから使わない」ではなく、「何を入れてよいか」「どの契約・設定で使うか」「誰のアカウントで使うか」を決めれば、多くの漏洩は防げます。

報道された事例から見る、生成AIの情報漏洩6つのパターン

実際に報道された出来事や、よく指摘される危険をもとに、生成AIの情報漏洩を6つのパターンに分けました。個別の事例の細かい事実は報道や各社の発表で確認してください。ここでは「どんな種類の失敗か」に注目します。

パターン事例の概要中小企業で起きそうな場面
1. 社内の機密を入力海外の大手電機メーカーで、社員が社内のプログラムのコードや会議の内容を対話型AIに入力したことが2023年に報道され、その会社は社内での生成AIの利用を制限しました見積や原価表、開発中の製品の資料を貼り付けて「要約して」と頼む
2. 個人情報を入力顧客や従業員の氏名・連絡先・相談内容を、そのままAIに入力してしまうクレームのメールや履歴書の内容を貼って返信文を作らせる
3. 学習に使われる設定のまま利用個人向けの無料版などでは、初期設定で入力内容がサービスの改善に使われる場合があります社員が個人のアカウントで業務の文章を入力している
4. サービス側の不具合2023年に、対話型AIのサービスで一部の利用者に他の利用者の会話の題名などが表示される不具合があったと、提供会社が公表しました利用者側では防げないため、入れる情報を絞ることで被害を小さくする
5. アカウントの乗っ取りパソコンに入り込んだ不正なソフトで、AIサービスのログイン情報が盗まれ、ネット上で売買されていたことが報告されていますパスワードの使い回し、二段階認証なし、共用アカウント
6. 共有リンクの公開AIとの会話を共有するリンクを作ると、リンクを知る人が誰でも見られる場合があり、設定によっては検索結果に出たことが話題になりました社内の連絡用に会話のリンクを貼り、それが社外に転送される

6つのうち、利用者側で防げないのは4だけです。残りの5つは、社内のルールと設定、アカウントの管理で防げます。

パターン別の対策——入力・設定・管理で何をするか

6つのパターンごとに、会社として取れる対策をまとめます。

パターン対策誰が決めるか
1. 機密の入力入力してはいけない情報を具体的に書き出す(原価・取引条件・未発表の製品・パスワードなど)。必要なら、固有の名前を伏せて入力する経営者
2. 個人情報の入力氏名・連絡先・生年月日などは入力しない。どうしても扱う業務は、法人向けの契約で、保存先と扱いを確かめた仕組みに限る経営者・管理職
3. 学習の設定業務では法人向けの契約を使う。個人向けを使う場合は、学習に使わせない設定(オプトアウト)を確認する管理職・情報システム担当
4. サービスの不具合漏れて困る情報は最初から入れない。利用するサービスの安全対策の公表内容を確認しておく管理職
5. 乗っ取り会社のアカウントで使う、二段階認証を必ず設定する、パスワードを使い回さない、退職時に止める情報システム担当
6. 共有リンク会話の共有リンクを社外に出さない。共有が必要なら、文章をコピーして社内の決まった場所に置く全社員

学習に使わせない設定の確かめ方はAIのオプトアウトとは?、契約で確認することは社内データをAIの学習に使わせないには?で詳しく説明しています。

なお、法人向けの契約や設定の内容はサービスごとに違い、変わることもあります。最新の情報は各サービスの公式サイトで確認してください。

入力してよい情報・いけない情報の線引き例

情報漏洩の事例で一番多いのは「入力」です。社員が迷わないよう、入力してよいものといけないものを、具体的な例で示しておきます。次の表は、社員10〜50名ほどの会社で使いやすい線引きの例です。

区分例扱い
入力してよい公開済みのホームページの文章、一般的な文章の下書き、社外に出ている商品説明そのまま使ってよい
伏せれば入力してよい取引先とのやり取りの文面、社内の会議メモ、問い合わせの内容会社名・人名・金額を「A社」「〇〇円」などに置き換える
会社が用意した仕組みだけで扱う顧客名簿、従業員の情報、見積・原価のデータ法人向けの契約で、保存先と担当を決めた仕組みの中だけで使う
入力してはいけないパスワード・ログイン情報、マイナンバー、健康や病歴の情報、未発表の決算や製品の情報どのAIにも入力しない

線引きは社内ルールとして文書にし、社員に一度説明しておきます。ルールの書き方はAI利用規定・社内ルールの作り方、個人情報の扱いはAIに顧客情報・個人情報を入力するときの注意点を参考にしてください。

全面禁止は逆効果になりやすい——「隠れて使う」を防ぐ考え方

事例を見て「では生成AIは全面禁止にしよう」と考える会社もあります。しかし、便利さを知った社員は、私物のスマートフォンや個人のアカウントで隠れて使うことがあります。会社の目が届かない使い方が増えると、何がどこに入力されたのか分からなくなり、かえって危険です。これは「シャドーAI」と呼ばれる問題です(シャドーAIのリスクと対策)。

現実的なのは、次の順番で「安全な使い道」を会社が用意することです。

  1. 入力してよい情報・いけない情報の線引きを決める(前の章の表)
  2. 業務で使うAIを決め、会社のアカウントと法人向けの契約で用意する
  3. 二段階認証などアカウントの設定をそろえる
  4. 社員に説明し、ルールを守ることを確認してもらう(生成AIの誓約書テンプレート)
  5. 3か月に1回など、使い方とルールを見直す

AIに渡す権限を必要な分だけにする考え方も、情報漏洩を小さくするのに役立ちます(AIに業務を任せるときのアクセス権限)。

生成AIの情報漏洩を防ぐ社内チェックリストと、漏れてしまったときの動き

自社の状態を確かめるためのチェックリストです。「いいえ」が付いた項目から手を付けてください。

生成AIの情報漏洩を防ぐ社内チェックリスト

  • 入力してはいけない情報が、具体例つきで文書になっている
  • 業務で使ってよいAIのサービス名が決まっている
  • 業務用のAIは、会社のアカウント・法人向けの契約で使っている
  • 入力内容を学習に使わせない設定・契約になっているか確認した
  • 入力した内容の保存期間と保存場所を確認した
  • すべてのアカウントで二段階認証を設定している
  • 共用アカウントを使っていない(使う場合は管理者を決めている)
  • 会話の共有リンクを社外に出さないことを社員に伝えている
  • 退職・異動のときにアカウントを止める手順がある
  • 外部に構築を頼む場合、委託先の情報の扱いを確認した(委託先のセキュリティの確認)
  • 漏れたかもしれないときに報告する相手が決まっている

もし社員が個人情報や機密を入力してしまったら、まず入力した内容・日時・使ったサービスを記録し、会話の削除やアカウントの設定を確認して、決めておいた相手に報告します。個人情報の場合は、内容によって本人への連絡や関係機関への報告が必要になる場合があります。具体的な動き方はAIに個人情報を入力してしまったら?にまとめています。法令上の扱いは個別の事情で変わるため、最新の情報は個人情報保護委員会の公式サイトで確認してください。

当社のAI社員は、入力してよい情報の線引きと、保存先・権限の設計を最初に決めてから、業務に合わせたAIを組み込みます。初期費用+月5万円で、月5万円は「AI社員の月給(運用費)」として、止まったときの修正・精度の改善・ご相談を回数の制限なくお受けします。初期費用はヒアリング後にお見積もりします。社内ルールが決まっていない段階でも、無料相談で何から決めればよいかを一緒に整理します。

よくある質問

生成AIの情報漏洩にはどんな事例がありますか?

社員が社内のプログラムや会議の内容を対話型AIに入力したことが報道された例、サービスの不具合で他の利用者の会話の題名が見えた例、AIサービスのログイン情報が盗まれた例などがあります。多くは入力・設定・アカウント管理といった使う側の原因で起きています。

ChatGPTなどに入力した情報は外に漏れますか?

入力した内容は提供会社のサーバーに送られ、契約や設定によってはサービスの改善に使われる場合があります。業務では法人向けの契約を使い、学習に使わせない設定と保存期間を確認したうえで、漏れて困る情報は入力しないことが基本です。

情報漏洩が心配なら、生成AIは全面禁止にしたほうがよいですか?

全面禁止にすると、社員が個人のアカウントで隠れて使い、かえって何が入力されたか分からなくなることがあります。入力してよい情報の線引きと、会社が用意した安全な使い道をセットで決めるほうが、漏洩を防ぎやすくなります。

社員が個人情報を生成AIに入力してしまったら、どうすればよいですか?

入力した内容・日時・使ったサービスを記録し、会話の削除や設定を確認して、決めておいた担当者に報告します。内容によっては本人への連絡や関係機関への報告が必要な場合があるため、最新の情報は個人情報保護委員会の公式サイトで確認してください。

執筆・監修

吉村 聡一郎の写真

株式会社MEDISITE 執行役員/AI事業責任者

吉村 聡一郎

株式会社アシロ(東証グロース市場)で営業統括責任者・新規事業開発責任者を経験。2022年、株式会社MEDISITEの創業メンバーとして参画し、AI事業・営業支援事業を統括。

  • AI導入・AI研修
  • 営業・新規事業

コラム一覧へ戻る