AI開発セキュリティ顧問
内製AIを、安心して本番へ

どのデータがどこを通って外に出るかを1枚の構成図にし、危険な経路だけを特定して直し方を示します。

• 利用しているモデル・API・SDKと、その呼び出し経路の確認
• RAGの構成（取り込み対象データ、検索範囲、出力の制御）
• AIエージェントの動作範囲（自動実行させる操作と、人の承認を挟む操作の切り分け）
• MCPで接続している社内システムと、そこから読み書きできる範囲
• n8n・Dify・Google Apps Scriptで組んだAIワークフローの経路確認
• 構成図の作成（どのデータがどこを通って外部に出るかを1枚にまとめます）

渡してよい情報と渡さない情報を業務単位で線引きし、マスキングと設定確認まで含めて基準を文章にします。

• AIに渡してよい情報と渡さない情報の線引きを、業務単位で文書化
• 外部AIサービスへ送信しているデータの棚卸し
• 利用中サービスの設定確認（学習利用の可否、データ保持期間、保存先）
• マスキング・匿名化が必要な箇所の特定と、代替の設計
• 社内規程・委託先管理との整合の確認（法的判断が必要な点は切り分けてお伝えします）

エージェント・ユーザー・外部ツールの権限を最小にし、自動実行する操作と人が承認する操作を切り分けます。

• AIエージェントに渡す権限の範囲（読み取りのみ／書き込み可／削除・送信可の線引き）
• ユーザー側の権限（誰がどのAIツールを、どのデータに対して使えるか）
• 外部ツール・APIの接続権限とスコープの見直し
• RAGのアクセス制御（閲覧権限のない資料が回答に混ざらない設計）
• 承認フローの設計（自動実行させる操作と、人が確認してから実行する操作の切り分け）

Secretsの保管と受け渡し、Gitの扱い、本番と開発の分離、依存関係の出所を確認し、直す順番を決めます。

• API Key・Secretsの管理（個人端末・個人アカウントでの保持からの切り替え、保管場所と受け渡し手順）
• Gitリポジトリの取り扱い（機密情報のコミット有無、公開範囲、履歴の扱い）
• 本番環境と開発環境の分離（検証で本番データをそのまま使っていないか）
• 依存関係の管理（パッケージ、MCPサーバー、拡張機能の出所と更新方針）
• ローカル開発環境の取り扱い（社内データを手元に置く場合の条件）

申請・審査・本番化の流れと開発ガイドライン、本番化チェックリストを整え、審査を外部で引き受けます。

• 社内AI開発ガイドラインの作成（開発者が判断に迷わない基準を文章にします）
• 内製AIの申請・審査・本番化フローの設計
• 本番化チェックリスト（レビューに出す前に、開発者自身が確認できる形）
• 社員が個別に作ったAIツールの把握と、台帳への登録の仕組み
• 責任分界の整理（作る人・レビューする人・本番利用を承認する人）

ログの範囲、異常の見方、止め方と連絡経路、事故対応の手順書を用意し、定期レビューで更新します。

• ログの取得範囲の設計（何を、どこに、どれだけ残すか。個人情報を残さない配慮を含みます）
• 異常検知の観点整理（想定外の自動実行、権限外アクセス、外部送信量の急増）
• AIが誤った操作をした場合の止め方と、連絡経路の設計
• 事故対応の手順書（誰が止め、誰に報告し、何を記録するか）
• 定期レビュー（構成変更・ツール追加に合わせた見直し）