生成AI導入のセキュリティ 完全ガイド｜審査・データ保護・管理ツール選定

企業が生成AIを安全に導入するには、①どんなリスクがあるかを把握し、②入力・出力・アクセスの3層で対策し、③周辺ツールを選ぶときに新しいリスクを増やさない、という3つの段階で考えます。見落とされやすいのは3つ目です。可視化や統制のために入れたツールが、プロンプトの原文を集めたり、通信経路に入って単一障害点になったりすると、対策のつもりがリスクを増やすことになります。

このガイドでは、生成AI導入のセキュリティを、リスクの把握、3層の対策、プロンプトの保存のリスク、周辺ツールの審査、従業員のプライバシー、可用性の順に整理します。各テーマの詳しい記事も紹介しています。

1. 生成AIのセキュリティで何が変わったか

従来の業務システムのセキュリティは、「社内のシステムを外部から守る」ことが中心でした。生成AIでは、次の点が変わります。

このため、生成AIのセキュリティでは、技術的な防御に加えて、ルール・経路の整備・利用状況の把握が重要になります。

2. 企業が対策すべき8つのリスク

多くの企業で優先度が高いのは、機密情報の入力・シャドーAI・APIキーの漏えいです。いずれも起きやすく、影響が大きいリスクです。一方、学習への利用と外部への保存は、会社として使う経路とツールを選ぶ段階で確認すれば、継続の手間は小さく抑えられます。8項目の詳細は「生成AI利用のセキュリティリスク一覧｜企業が対策すべき8項目」を参照してください。

3. 入力・出力・アクセスの3層で対策する

経路ごとに扱いを分ける

会社の経路が使いにくいと、個人の無料版に流れます。安全な経路を用意し、使いやすくすることが、入力のリスクを下げる最も効果的な対策です。

守られているかを確かめる

ルールは、守られているかを確かめる仕組みがなければ形骸化します。アクセスの層は、プロバイダの管理APIが返す利用量のメタデータで確かめられます。部署ごとの会社の経路の利用量、使われていないキー、急な増加は、プロンプトの内容に触れずに把握できます。詳しくは「企業の生成AIセキュリティ対策｜入力・出力・アクセスの3層」を参照してください。

社内システムに組み込む場合

生成AIを社内システムや自社の製品に組み込む場合は、3層に加えて、アプリケーションとしての対策が必要になります。

組み込みの用途では、開発の段階でセキュリティの確認を入れることが重要です。リリース後に直すのは手間がかかります。

4. プロンプトが外部に保存されるリスク

プロンプトと応答は、生成AIの提供元だけでなく、周辺の多くの場所に保存されえます。

保存された場所の数だけ、漏えいの経路とアクセスできる人が増えます。周辺ツールを選ぶときは、原文を取得するか、取得しないのは「構造上」か「設定」かを必ず確認します。自社のアプリケーションのログも見直します。詳しくは「プロンプトが外部に保存されるリスク｜ツール選定の確認点」を参照してください。

会社の経路を選ぶときの確認点

会社として使う経路（サブスクリプション・API）を選ぶときは、次の点を各社の規約・設定で確認します。

条件は各社の規約の改定で変わることがあります。年に一度は規約を確認し、確認した日付を記録しておきます。

5. 生成AI関連SaaSの審査

ツールの種類でリスクを見積もる

リスクの大きさに応じて、審査の深さを変えるのが効率的です。すべてのツールを同じ深さで審査すると、リスクの小さいツールの導入まで時間がかかり、その間に現場がシャドーAIに流れます。

審査の手順

1. 用途と範囲を確認する（何のために、どの部署が、どのデータで）
2. ツールの種類を判定する（原文・経路・認証情報）
3. 公開資料を確認する
4. チェックシートで質問する
5. リスクを評価する（未対応事項の許容・代替の対策）
6. 条件付きで承認し、記録する

チェックシートに必ず入れる3項目

第三者認証やSSOなどが未対応の場合も、取り扱うデータの範囲と代替の対策、開示の姿勢で判断します。未対応を正直に開示する提供元は、隠す提供元よりリスクが小さいと考えます。詳しくは「生成AI関連SaaSのセキュリティ審査｜情シスが見るポイント」と「生成AIツールのセキュリティチェックシート｜確認項目と回答例」を参照してください。

6. 従業員のプライバシーと「原文を見ない」設計

生成AIの利用を把握する方法には、プロンプトの内容を見る「監視」と、利用量のメタデータだけを見る「可視化」があります。

原文を見る監視は、プライバシー、監視の仕組み自体の漏えいリスク、利用の萎縮（シャドーAIの増加）、運用の負担という4つの問題を伴います。費用の管理・予算の統制・利用状況の把握・キーの管理は、原文なしで達成できます。日常はメタデータで把握し、原文は例外的な調査の場面に限る設計が、プライバシーとリスクのバランスの取れた方法です。

導入時は、何を見るか（内容は見ない）、目的、誰が見るか、個人の評価に使わないことを、従業員に説明します。詳しくは「利用監視ツールと従業員プライバシー｜原文を見ない設計」を参照してください。

メタデータで分かること

「何に使ったか（用途）」はメタデータだけでは分かりませんが、キーを用途ごとに分ける設計で、ある程度補えます。詳しくは「メタデータと原文の違い｜可視化に原文は要らない」を参照してください。

7. 可用性——介在型と非介在型

周辺ツールが停止したときに生成AIの利用が止まるかは、ツールが通信経路に入るかどうかで決まります。

「気づく」は非介在型、「止める・変える」は介在型と整理できます。可視化や費用の管理が目的なら、介在型を入れて単一障害点を作る必要はありません。止める機能が必要な場合は、プロバイダ側の利用上限を最後の砦にし、非介在型の可視化と組み合わせるのが現実的です。介在型を使う場合は、冗長構成と迂回の手順を用意します。詳しくは「外部ツール停止で自社AI利用が止まるか｜介在型と非介在型」と「通信経路に介在しない可視化とは｜可用性を損なわない設計」を参照してください。

8. 認証情報とデータの所在地

周辺ツールに預ける認証情報

データの所在地と委託先

データが保存される国・リージョン、提供元が利用しているクラウドサービスを確認します。顧客との契約や社内規程で国外への移転に制限がある場合は、国内のリージョンで管理されているかが審査の要件になります。

9. 中堅企業での進め方

専任の担当者がいない前提で、ルールは短く、確認は仕組みで、周辺ツールは新しいリスクを増やさないものを選びます。

審査の型を作る

生成AI関連のツールの導入申請は、今後も増え続けます。ツールの種類ごとに審査の型（簡易審査・詳細審査）を作っておくと、現場を待たせずに済みます。

10. インシデントへの備え

生成AIに関わるインシデントは、次のような形で起きます。事前に対応の手順を決めておきます。

特にAPIキーの漏えいと、周辺ツールに預けた認証情報は、失効の手順と権限（誰が夜間でも止められるか）を決めておくことが重要です。周辺ツールに預ける認証情報が読み取り専用なら、万一漏れても生成AIを不正に使われることはなく、影響は利用量を読まれることに限られます。

11. 監査・取引先への説明

生成AIの利用について、社内監査や取引先から説明を求められることが増えています。次の4点を資料として出せる状態にしておきます。

「ルールがある」だけでなく、「ルールどおりに運用されている記録がある」ことが評価されます。利用状況の月次の報告と、キーの棚卸しの記録は、そのまま運用の証跡になります。

規程に書くこと

生成AIのセキュリティに関して、社内規程（利用ガイドラインや情報セキュリティ規程）に書いておくべき項目です。

• 会社として使う経路と、個人の無料版の扱い
• 入力してよい情報の判断基準
• 生成物の確認の手順と、対外利用の条件
• APIキーの発行・保管・棚卸し・失効
• 利用状況の把握の方法（取得する情報の範囲、内容を見ないこと、閲覧できる人）
• 周辺ツールの審査の手順
• インシデント時の報告先と初動

12. 用語の整理

13. よくある質問

Q. 生成AIの利用を禁止すれば安全ですか？ 禁止すると、個人の端末での利用が増え、かえって把握できなくなります。会社の経路を用意し、ルールと可視化で統制するほうが現実的です。

Q. どこから手を付けるべきですか？ 利用実態の棚卸しと、入力の判断基準、会社の経路の整備から始めます。次に APIキーの管理と、原文を扱わない方式での利用状況の可視化を進めます。

Q. 周辺ツールの審査にどのくらい時間をかけるべきですか？ ツールの種類によります。原文を扱わず通信経路に入らないツールは確認の範囲が小さく、比較的短期間で判断できます。原文を扱うツールは、データの流れと法務の確認を含めて時間をかけます。

Q. 第三者認証のないツールは使えませんか？ 自社の規程によります。必須でなければ、取り扱うデータの範囲、預ける権限、開示の姿勢で判断します。

Q. 生成AIの提供元の規約はどこまで確認すべきですか？ 学習への利用、データの保持期間、データの所在地、管理者の機能の4点を最低限確認します。条件は改定されるため、確認した日付を記録し、年に一度見直します。

Q. 周辺ツールを入れずに、プロバイダの管理画面だけで管理できませんか？ プロバイダが1社で、利用する部署も少なければ可能です。複数のプロバイダを使い、部署別の把握や月の途中での通知が必要になると、管理画面だけでは手作業の負担が大きくなります。その場合は、原文を扱わず通信経路にも入らない方式のツールを選ぶと、新しいリスクを増やさずに済みます。

まとめ

• 生成AIのセキュリティは、リスクの把握 → 3層の対策 → 周辺ツールで新しいリスクを増やさない、の3段階で考える
• 優先度が高いのは、機密情報の入力・シャドーAI・APIキーの漏えい。安全な会社の経路を使いやすくするのが最も効果的
• プロンプトは周辺ツールやログにも保存されうる。原文を「構造上」取得しないかを確認する
• 周辺ツールの審査は、原文・通信経路・認証情報の権限でリスクを見積もり、深さを変える
• 利用状況の把握は原文なしで達成できる。非介在型なら可用性も損なわない

ManageAIは、OpenAI・Azure OpenAI・Claude・AWS Bedrock・Google Vertex AIの管理APIから、利用量のメタデータを読み取り専用の権限で取得する非介在型の可視化サービスです。プロンプト原文は構造上取得せず、通信経路にも介在しないため、ManageAIが停止しても貴社の生成AIの利用には影響しません。データはAWS東京リージョンで管理し、預かる認証情報は暗号化して保管します。第三者認証の未取得など、現時点での制約事項も説明資料で開示しています。

モニター企業募集の詳細を見る／資料請求・お問い合わせ

このクラスターの記事

• 生成AI利用のセキュリティリスク一覧｜企業が対策すべき8項目
• 企業の生成AIセキュリティ対策｜入力・出力・アクセスの3層
• プロンプトが外部に保存されるリスク｜ツール選定の確認点
• 生成AIツールのセキュリティチェックシート｜確認項目と回答例
• 生成AI関連SaaSのセキュリティ審査｜情シスが見るポイント
• 利用監視ツールと従業員プライバシー｜原文を見ない設計
• メタデータと原文の違い｜可視化に原文は要らない
• 外部ツール停止で自社AI利用が止まるか｜介在型と非介在型
• 通信経路に介在しない可視化とは｜可用性を損なわない設計

次に読む

• 企業のAIガバナンス 完全ガイド｜ルール・体制・可視化の3層で設計する
• ManageAIのセキュリティ｜原文非取得・国内管理・読み取り専用