Blog AI顧問導入ガイド

AI導入のセキュリティ失敗事例3選|情報漏洩を防ぐ対策を顧問が解説

公開 2026.01.27 ・ 最終更新 2026.10.09 ・ 読了目安 約15分

たとえば、取引先との打ち合わせを営業担当が自分のスマートフォンで録音し、私物の無料の生成AIで要約したとします。できた議事録は個人のドライブに置き、「リンクを知っている全員」の設定で配ります。悪気はなく、作業は10分ほどで終わります。ただ、この短い流れには、提供元が公表してきた情報漏洩と同じ入口が3つ入っています。

公表された生成AIの情報漏洩は、入力した内容が提供元の不具合で他人に見えた例(OpenAI・2023年3月)、権限の広すぎる共有URLから社内データが読めた例(Microsoft・2023年)、AIが読める社内データを外へ送らせる脆弱性(Microsoft 365 Copilot・2025年6月)の3件で整理できます。社内で決めるのは、入力の線・共有とAIが読む範囲・使うアカウントの3つです。以下、3件を議事録の7段階に置き直して整理します。

30-SECOND SUMMARY忙しい方へ|この記事の結論
  1. OpenAIの不具合は提供元の側で起き、利用者には止められません。入力した時点で社外に渡る前提で、入れない情報を決めます
  2. Microsoftの2件は、共有URLの権限とAIが読める範囲が広すぎたことが入口です。自社の設定で狭められるのはこちらです
  3. 使用を個人の判断に任せている会社は64.9%。議事録1種類から3つの決まりを文書にします

生成AIの情報漏洩は、社内のどこから起きているのか

生成AIの情報漏洩とは、AIに入力した内容、AIが読める社内のデータ、AIで作った文書のどれかが、見せるつもりのない相手に見える状態になることです。入口は、入力する時、共有する時とAIに読ませる時、会社が把握していないアカウントで使う時の3つです。

公表された3件を、入口で並べる

報道だけの話を外し、提供元が自ら公表した3件に絞ります。

時期・提供元 何が起きたか 入口 社内で決める所
2023年3月・OpenAI ライブラリの不具合で、他人のチャット履歴のタイトルが見えた。特定の9時間に使っていたPlus契約者の1.2%は、氏名やカードの下4桁が他人に見えた可能性がある 入力(提供元の側) 何を入れないか
2023年6月・Microsoft 公開した保存先のURLに権限の広すぎる鍵が付き、元社員2人の端末のバックアップと社内チャットが読めた 共有 共有リンクの初期設定と見直し
2025年6月・Microsoft 365 Copilot メールなどに紛れた見えない指示をAIに読ませ、社内の秘密情報を外へ送らせる脆弱性(CVE-2025-32711) AIが読む範囲 AIに読ませるフォルダとメール

1件目は提供元の側の不具合で、利用者が設定を変えても防げません。2件目と3件目は、共有の権限やAIが読める範囲が広すぎたことが入口で、利用者の側で狭められます。

IPAが10大脅威で、AIの利用を初めて3位に置いた

IPA(情報処理推進機構)が2026年1月に公開した「情報セキュリティ10大脅威 2026」の組織向けで、「AIの利用をめぐるサイバーリスク」が初めて選ばれ、3位に入りました。研究者や企業の実務担当など約250名の選考会が決めた順位です。

問題の本質:社員は「悪いこと」だと思っていない

冒頭の営業担当にとって、議事録を早く配るのは仕事を前に進める行動です。3つの入口はどれも、悪意ではなく手間の短縮から開きます。だから、注意の通達を1回出すより、どの段階で何をしてよいかを文書で渡す方が効きます。

入口1:顧客情報や社外秘を、そのままAIに入力する

1つ目の入口は入力です。決めるのは「どの設定なら安全か」より先に、「提供元に渡っても困らない情報だけを入れる」という線です。

入力した時点で、内容は提供元のサーバーに渡る

OpenAIの2023年3月の事後報告では、オープンソースのライブラリの不具合で、一部の利用者に他人のチャット履歴のタイトルが見えていました。支払い関連では、氏名、メールアドレス、住所、カード番号の下4桁、有効期限が見えた可能性があるとしています。カード番号の全桁は出ていません。

学ぶべきは、学習に使われるかとは別に、入力した内容は提供元に保存され、提供元の不具合で見えることがある点です。学習をオフにしても、この入口は閉じません。

個人情報保護委員会が事業者に求めている確認

個人情報保護委員会は2023年6月の注意喚起で、事業者が個人情報を含む指示文を生成AIに入れるときは、利用目的の範囲内かを確かめるよう求めています。本人の同意なく個人データを入れ、応答の出力以外の目的で扱われると法の規定に違反する可能性があるため、提供事業者が機械学習に使わないことなどを確かめる必要があります。この確認を済ませるまで、取引先の担当者名や顧客の連絡先は入れません。

議事録・提案書・メールで入りやすい情報

文書 混ざりやすい情報 出たときに困ること
議事録 取引先の担当者名、商談の中身、相手の社内事情 相手との守秘の約束に反する
提案書 企業名、課題、予算の幅 競合に条件が知られる
メールの文面 取引条件、契約の内容 契約の条件が外に出る

議事録は相手の了承を取ってから録る

議事録をAIで作るなら、打ち合わせの冒頭で「議事録のために録音し、要約に使います」と1文伝えます。了承の無い録音をAIに入れると、守秘の取り決めがある取引では契約の問題にもなりえます。

対策:顧客情報の入力ルールを明文化する

情報の種類 AIへの入力 扱い方
顧客の企業名・担当者名 入れない A社のように伏せ字にしてから入れる
契約金額・取引条件 入れない 数字を除いて入れ、数字は人が書き戻す
公開された業界の情報 入れてよい 公開されている範囲に限る
自社の製品・サービスの情報 入れてよい 公開済みの内容に限る

細かな線引きはAIに入れてはいけない5つの情報をまとめた記事で扱っています。

入口2:共有リンクとAIが読める範囲が、思ったより広い

2つ目の入口は、作った文書を共有するときと、AIに社内のデータを読ませるときです。どちらも「誰が、どこまで見られるか」が広すぎることから開きます。

公開した1本のURLから、社内のデータが読めた

Microsoftが2023年9月に公表した事例では、AIの学習用データを公開する作業で、研究者が保存先のURLを公開のリポジトリに載せていました。URLに付いた鍵(SASトークン)の権限が広すぎ、元社員2人の端末のバックアップと社内チャットが外から読めました。顧客のデータは含まれていません。仕組みの穴ではなく、鍵付きのURLを1本貼ったことが入口でした。「リンクを知っている全員」の共有も同じ構造です。

法人アカウントと個人アカウントの併用リスク

  1. 会社のアカウントで提案書や顧客の一覧を作る
  2. 家で続きをやるために、個人のアカウントにURLを共有する
  3. 個人の側で「リンクを知っている全員」に切り替え、URLが社外に出る

3番目の時点で、会社の管理者からは誰に見えているかを追えません。

NotebookLMの共有設定に注意

NotebookLMは、資料を読み込ませて要約や質問ができるGoogleのツールです。ヘルプでは、ノートブックを公開するとGoogleアカウントを持つ誰とでもリンクを共有でき、個人のGmailでも最大50人と共有できると説明しています。読み込ませた資料の見える範囲は、この共有設定で決まります。Google Workspaceの中でAIを使う場合の設計は、会社のアカウントでの共有を前提に組みます。

AIが読める範囲は、AIに指示を送り込まれる範囲でもある

2025年6月に公開されたCVE-2025-32711は、Microsoft 365 Copilotの脆弱性です。IPAの解説書は、メールなどに含まれる見えない指示をAIに読み込ませ、利用者の操作なしに秘密情報を外部へ送らせるものと説明しています。直すのは提供元ですが、AIが読めるフォルダやメールを仕事に要る範囲に絞るのは利用者の側でできます。Microsoft 365でCopilotを使うときの権限の考え方も、この範囲から入ります。

対策:共有と権限で決めておくこと

決めること 中身
共有の初期設定 名前の指定を原則にし、「リンクを知っている全員」は申請制
個人アカウントへの共有 社内の文書は会社のアカウントの中だけで共有
AIに読ませる範囲 案件のフォルダ単位で指定し、全社のドライブは読ませない
見直しと退職時 月1回、外部共有を一覧で確かめ、退職日に共有と権限を外す
For Executives

御社の情報で書き下ろす、
御社専用のAI活用ご提案書。

御社の公開情報と業界の一次統計をもとに、本当の課題、選んだテーマの解決策、効果の試算の式、最初の30日までをPDF・15ページに1社ずつ書き下ろします。代表 吉元が監修して数営業日でメールでお届け。完全無料・契約義務なし。

経営者・役員・部門長・AI推進ご担当者の方限定。御社の事業に当てはめた個別作成のため、立場が判断できない方への配信はお断りしております。

入口3:会社が把握していない個人アカウントで使う(シャドーAI)

3つ目の入口は、会社が契約していない個人のアカウントで仕事の文書をAIに入れることです。シャドーAIと呼ばれます。入力や共有の決まりを作っても、個人のアカウントの中で起きたことは会社から見えません。

使用を個人の判断に任せている会社は64.9%

商工中金が取引先の中小企業3,892社から回答を得た2026年1月の調査では、生成AIを会社では入れておらず使用は個人の判断に任せている会社が64.9%で、最も多い回答でした。個人で登録した生成AIを仕事に使うよう勧めている会社も14.9%あります。合わせて8割近くが、どのアカウントに何が入ったかを把握しにくい状態です。

IPAの解説書も、米国のAI企業の調査として、生成AIにデータを貼り付けて入力している利用者が77%、そのうち82%が組織の管理外のアカウントだったと紹介しています。日本の数字ではありませんが、向きは同じです。

個人向けと会社向けで、入力した内容の扱いが変わる

プラン 入力した内容の扱い(提供元の公表)
Claude Free・Pro・Max 学習に使うかを利用者が選ぶ。使うなら保存5年、使わないなら30日
Claude for Work・API 上の変更の対象外(商用の規約)
Geminiアプリ(個人) 人のレビュアーが一部を確認することがある
Google WorkspaceのGemini 人にレビューされず、許可なくドメイン外の学習に使われない

2025年8月のAnthropicの規約変更のように、個人向けの扱いは変わります。ChatGPTを含め、使うサービスは個人向けと会社向けの規約を契約前に読み、確かめた日を残します。ChatGPTで止まる所と止まらない所はChatGPTから情報が漏れる4つの経路の記事にまとめています。

無料版を仕事で使ってよいかの線

公開されている情報だけを扱う使い方なら、無料版でも入口1の問題は起きにくいと言えます。取引先や社員の名前、金額、社外秘の資料が1つでも入るなら、会社が契約したアカウントに移します。線は無料か有料かではなく、会社が契約し利用者を把握しているかで引きます。個人向けの有料プランも、会社から見えない点では無料版と同じです。

なぜシャドーAIが発生するのか

IPAの解説書は、職場にAIサービスが用意されていない場合などに、従業員が個人のAIサービスを仕事に使うことがあると書いています。会社の道具が無いから、手元の道具を使う。きっかけはこれだけです。見張る仕組みより先に、会社のアカウントを用意します。IPAも経営層の対策に、個人アカウントの仕事での利用の制限、入力データを学習から外す設定、約款の確認を挙げています。無断の利用を止める線はシャドーAIの境目を整理した記事で扱っています。

AIを入れる前に決める3つのルールと、社内だけで決めきれない境目

決めるのは、入力の線、共有とAIが読む範囲、使うアカウントの3つです。3つが文書になっていれば社内での利用を認め、1つでも空なら、対象を議事録1種類に絞って決めるところへ戻ります。

いまの流れ:議事録を作って共有するまでの7段階

段階 担当 入力 出力 判断 入口
1 録る 営業担当 打ち合わせの音声 録音 録るか —
2 要約にかける 営業担当 録音と商談メモ 要約 何を入れるか 入口1
3 アカウントを選ぶ 営業担当 手元のスマホ 使うAI どのAIで 入口3
4 下書きを確かめる 営業担当 AIの要約 議事録 なし —
5 保存する 営業担当 議事録 保存先 どこに置くか —
6 共有する 営業担当 保存先のURL 共有リンク 誰に見せるか 入口2
7 後片付け なし — — なし 入口2

担当がほぼ1人に集まり、段階7には担当がいません。所要の分数は会社ごとに違うため、自社の議事録1件で測って書き込みます。

ルールを決めた後の流れ(同じ段階番号)

議事録を作って共有するまでの7段階を、いまの流れとルールを決めた後で並べ、要約にかける段階2、アカウントを選ぶ段階3、共有する段階6が情報の出る入口になることを示した表
入口は要約の段階だけではありません。7段階のうち3か所で情報が社外に出る機会があります
段階 担当 AIが受け取るもの・返すもの 人が確かめること
2 要約にかける 営業担当 伏せ字にした文字起こし→要約の下書き 伏せ字の漏れが無いか
3 アカウント 情報システム担当が事前に用意 — 会社契約のアカウントか
4 確かめる(増える) 営業担当 — 数字と約束事を原本と照合したか
6 共有する 営業担当 — 参加者の名前を指定したか
7 後片付け 情報システム担当 — 月1回、外部共有と退職者の権限を見直したか

AIに任せるのは段階2の要約の下書きだけです。消える段階は無く、段階4の照合が増え、段階3と段階7の担当が情報システム担当へ移ります。

人が決めることと、その根拠

  • 録音してよいか:相手との守秘の約束に関わるため、営業担当が相手に確かめる
  • 何を伏せ字にするか:個人情報の利用目的に関わるため、入力の表に沿って人が選ぶ
  • 議事録の数字と約束事:取引先への約束になるため、原本と人が照合する
  • 個人のアカウントを止めるか:会社が管理できる範囲の判断のため、社長と情報システム担当が決める

最低限決めるべき3つのルール

ルール 書き方の例
入力の線 取引先の企業名・担当者名・金額は伏せ字にしてから入れる
共有とAIが読む範囲 共有は名前を指定。AIには案件フォルダだけを読ませる
使うアカウント 会社が契約したアカウントだけ。個人のアカウントは使わない

ひな形から作るなら、生成AIガイドラインのサンプルを比べた記事で見落としやすい箇所を確かめられます。決めた後は、外部共有のファイル数(件)、伏せ字なしで入力された議事録の数(月10件を抜き取り)、会社契約のアカウントを使う人の数(人)の3つを、情報システム担当と各部署の責任者が月1回数えます。

ルールを決めずに始めない方がよい条件と、社内だけで決めきれない境目

議事録に取引先の個人情報が入る会社で、会社契約のアカウントがまだ無いなら、利用を広げる前にアカウントを用意します。個人のアカウントのまま入力の線だけ決めても、守られているかを確かめる手段がありません。

社内だけで決めようとすると、境目が3つあります。重いのはAIに読ませる範囲で、どのフォルダに何があるかを把握する人がいないと、全社のドライブを読ませる設定に流れます。次に、商工中金の同じ調査では、社内ルールの整備が追いつかないことを課題に挙げた会社が25.1%で導入後の課題で最も多く、情報管理やセキュリティの不安も21.0%ありました。もう1つは、規約が変わったときに誰が読み直すかです。2つ以上当てはまるなら、読ませる範囲の設計と規約の読み直しだけを社外の目で決め、日々の確認は社内に残す分け方があります。伝え方は社員向けの生成AI研修の内容とも重なります。

決めきれない点が1つあります。個人のアカウントを全面的に止めるか、公開情報だけの使い方に限って残すかです。会社のアカウントが行き渡る前に止めると、見えない所で使われ続けます。配り終えるまでは公開情報だけに限って残し、配り終えた月に止める方が無難だと考えています。

ビフォーアフター:入口ごとに決めておくと、議事録の共有はこう変わる

決まりが無いまま使っている場合

  • 私物のスマホの無料のAIで、取引先名と金額が入った録音を要約する
  • 議事録を個人のドライブに置き、「リンクを知っている全員」で配る
  • 退職した人の共有リンクが残っていても気付かない

3つの入口ごとに決めてある場合

  • 会社契約のアカウントで、伏せ字にした文字起こしだけを要約にかける
  • 議事録は案件フォルダに置いて名前を指定して共有し、月1回、外部共有を見直す

使うAIも作る人も同じです。違うのは段階2・3・6・7の決まりだけです。提供元の不具合のように止められない入口は残りますが、入れていない情報は漏れません。何を入れてよいかの最終判断は、社長と各部署の責任者に残ります。

この記事のまとめ

  • 今週は、生成AIに入れている文書を議事録1種類に絞り、7段階のどこで誰が何を決めているかを書き出します
  • 次に、「リンクを知っている全員」で共有されたファイルを1回数え、月1回見る数字の起点にします
  • 個人のアカウントを止める日は、会社のアカウントを配り終えた月に置きます

監修者|生成AIの導入から定着まで伴走する専門家が確認しています

吉元大輝(よしもとひろき)

株式会社BoostX 代表取締役社長

AI顧問・FDE型AI伴走支援・AIエージェント開発など、生成AIの相談から構築・現場定着までを一社で支援。業務可視化から効果測定まで、企業のAI活用を実務レベルで前に進めている。

2026年10月

この記事をシェア

読んで終わりにしないために

「自社の場合は、どうすれば?」
その答えを、最大45分で持ち帰る。

記事で分かるのは、一般論まで。AI導入を専門に見ている担当が、貴社の業務に当てはめて“次の一手”だけを一緒に整理します。

この相談で持ち帰れるもの

  1. 01

    自社業務に当てはめたAI活用マップ

  2. 02

    投資対効果(ROI)のシミュレーション

  3. 03

    いまの悩み・疑問への、その場の個別回答

COMPANY PROFILE / PDF 全46ページ

BoostXの考え方・7つのサービス・料金を、1冊に。

社内でAI活用を検討されるときの資料として、そのままご共有いただけます。入力は3項目、送信後すぐにダウンロードできます。

会社案内を無料でダウンロード