AIセキュリティの盲点｜情報漏洩の9割を生む人的ミスを防ぐ

「便利だから使うなとは言えない。でも、何が漏れているのか自分たちでは分からない」——生成AIの社内利用が当たり前になった今、これは多くの経営者に共通する不安です。ツールの導入を止めることはもうできず、かといって従業員が何をどこまで入力しているのかは見えていない。この宙ぶらりんの状態が、いちばん危ない状態です。

この記事では、AIセキュリティで本当に見るべき観点と、自前運用で情報漏洩が起きやすくなる構造を整理します。

「生成AIを止められない」時代に、情報漏洩はどこから起きるのか

本記事のテーマに関連するサービスとして、BoostXではAI自動化の支援を提供しています。

生成AIの社内利用は、もはや会社が許可するかどうかの段階を過ぎています。総務省の調査では、企業の49.7%が生成AIを「積極的に導入する」または「導入を前提に検討する」方針だと回答しています（出典：総務省 令和7年版 情報通信白書、2024年度調査）。同じ調査では、情報漏洩などのセキュリティリスクが導入課題の上位に並びます。つまり、半数近い企業が「使いたいが、漏れるのが怖い」という同じ場所で足踏みしているわけです。

ここで多くの会社が取りがちなのが「全面禁止」という判断です。けれど、全面禁止は「シャドーAI」を生むだけです。だから私は、禁止ではなく安全に使える状態を設計することを勧めています。個人のスマートフォンや自宅のパソコンで、会社の目が届かないまま機密情報を貼り付けて使われる方が、よほど危険だからです。

漏洩の入口は、外部からの攻撃よりも日常の入力にある

情報漏洩と聞くと、外部からのサイバー攻撃を思い浮かべる方が多いと思います。けれどAI利用で実際に起きやすいのは、もっと地味で日常的な経路です。契約書をそのまま貼り付けて要約させる、顧客リストを整形させる、議事録を読みやすく直させる——どれも善意の業務効率化であり、悪意はありません。だからこそ止めにくく、見えにくいのです。私は、中小企業のデータ流出リスクのおよそ9割は、こうした人的ミスから生まれると考えています。

「シャドーAI」が一番見えない穴になる

会社が用意していないツールを、従業員が個人の判断で勝手に使う。これがシャドーAIです。無料アカウントで複数のサービスを使い分けている人も珍しくありません。会社としてどのツールに何が入力されたのか、まったく把握できない状態が生まれます。利用ログも残らず、何かあったときに「何が漏れたか」すら特定できません。禁止すればするほど、この見えない領域に利用が逃げ込んでいきます。

AIセキュリティで本当に見るべきは「ツール」より「人と運用」

AIセキュリティの相談では、最初に「どのツールが一番安全ですか」と聞かれることがよくあります。気持ちはわかりますが、ツールの選定だけで安全になる、という考え方には限界があります。同じツールでも、誰がどんな情報をどう入力するかで、リスクはまるで変わるからです。安全に使えている会社とそうでない会社の差は、ツールの違いではなく、運用が設計されているかどうかにあります。

同じツールでも、入力する人の判断で結果は正反対になる

私自身、ChatGPTに業務委託契約書を貼り付けて「受託側に不利な条項を指摘して」と聞いたことがあります。すると、損害賠償の上限が未設定であること、解除条件の不備、競業避止の範囲が広すぎることを的確に指摘してくれました。これは確かに便利です。けれど、まったく同じ操作が、見方を変えれば「契約書という機密文書を社外のサーバーに送信した」ことにもなります。便利さとリスクは、いつも同じ操作の表と裏なのです。ここを判断できる土台があるかどうかが、安全の分かれ目になります。

ルールは導入の妨げではなく、安全に使うための土台になる

最初から完璧を目指さなくて構いません。まず3〜5項目だけルールを決めて全員で共有する。たったこれだけで、入力前に一拍考える習慣が生まれます。ルールは導入の妨げではなく、安全に使うための土台です。「個人情報は入れない」「契約書は許可された環境でのみ扱う」といった数項目があるだけで、人的ミスの大半は手前で防げます。難しい技術対策より、まず全員が共通の線引きを持つことの方が効きます。

安全に使えている会社が押さえている観点

安全にAIを使えている会社には、共通して押さえている観点があります。どれも難解な技術ではなく、運用上の線引きと設定の話です。ここでは3つの観点に分けて整理します。チェックすべきポイントを知っておくだけで、自社が今どの程度のリスクを抱えているかの当たりがつきます。

観点1：入力していい情報・してはいけない情報の線引き

最も効くのが、入力情報の線引きです。個人情報保護委員会も、個人情報を含むプロンプトを生成AIに入力する場合は、利用目的の達成に必要な範囲内かを十分に確認することを求めています（出典：個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」、令和5年6月2日）。氏名・連絡先を含む顧客データ、未公開の財務情報、契約書、人事評価——このあたりを「そのまま貼ってはいけないもの」として全員が共有できていれば、漏洩リスクは大きく下げられます。

観点2：許可した環境に利用を集約できているか

どのツールを会社として許可するかを決め、そこに利用を集約できているかも重要な観点です。許可環境を1〜2種類に絞れば、利用ログの確認も、設定の統一も現実的になります。逆に、各自が好きなサービスを好きなアカウントで使っている状態では、何が起きても会社として手が打てません。シャドーAIを生まないためにも、「使っていい場所」を明確にすることが土台になります。

観点3：権限・履歴・データ保持の設定を把握しているか

見落とされがちなのが、データ保持に関する設定です。たとえばChatGPTはオプトアウト後も最大30日ログを保持し、Claudeはオプトイン時に最大5年、Geminiはオフ設定後も最大72時間の短期保持があるとされています（BoostX独自調査・2026年時点。最新仕様は各サービス公式で必ず確認してください）。学習に使われない設定にしているつもりでも、ログとしては一定期間サーバーに残る、というのはよくある誤解です。誰がどの権限を持ち、履歴がどう残るかを把握できているかどうかが、第3の観点になります。

「API版にすれば安心」という思考停止の落とし穴

セキュリティの話になると、「API版にすれば学習に使われないから安心」という意見をよく聞きます。けれど私は、「API版にすれば安心」は思考停止だと考えています。確かに入力データが学習に使われにくいという利点はありますが、それは数あるリスクのひとつに対処しただけで、別のリスクが新しく生まれているからです。安心という言葉で思考を止めてしまうと、かえって危険な状態を作りかねません。

APIキーの管理という、新しくて大きなリスクが生まれる

API版を使うということは、APIキーという「会社の鍵」を持つということです。このキーが1つ漏れたときのダメージは、Web版の学習利用よりはるかに大きい場合があります。キーを悪用されれば、想定外の従量課金が一気に膨らむこともあれば、社内システムへの不正な経路になることもあります。学習リスクを避けたつもりが、より管理の難しいリスクを抱え込んでいた、という事態は十分に起こり得ます。鍵をどう保管し、誰が使え、漏れたときにどう止めるか——この設計まで含めて初めて「安心」と言える側です。

属人化と陳腐化で、せっかくの仕組みが使われなくなる

技術的な構築を社内の一部の人に任せきりにすると、その人しか分からない属人的な状態になりがちです。担当者が異動・退職すれば、設定の意図もメンテナンスの方法も引き継がれません。さらに、生成AIのサービス仕様は頻繁に変わります。放置したら使われなくなり、ツールはすぐ陳腐化します。導入した当初は最適だった設定が、半年後には古い前提のまま動いている、ということも珍しくありません。自前運用の本当の難しさは、作ることより「使われ続ける状態を保つこと」にあります。ここをどう設計するかが、安全に長く使えるかどうかの分かれ目になります。

ビフォーアフター：AIセキュリティへの向き合い方がここまで変わる

違いを生んでいるのはツールではなく運用設計

BeforeとAfterで使っているAIツールは、実は同じでも構いません。違いを生んでいるのはツールではなく、運用設計です。線引きを決め、環境を集約し、設定を把握し、使われ続ける仕組みを保つ——この一連の設計があるかどうかだけで、同じツールが「危険な穴」にも「安全な武器」にもなります。「うちはまだBefore寄りだ」と感じた方は、次でその差をどう埋めるかを案内します。

よくある質問

公開日：2026年6月