企業の生成AIセキュリティ対策｜入力・出力・アクセスの3層
企業の生成AIセキュリティ対策を、入力（何を入れるか）・出力（生成物をどう扱うか）・アクセス（誰がどの経路で使えるか）の3層で設計する方法を解説します。層ごとのルール・技術・運用の対策、経路ごとの扱いの分け方、可視化で対策が守られているかを確かめる方法、中堅企業での進め方までまとめました。
企業の生成AIセキュリティ対策は、入力（何を入れるか）・出力（生成物をどう扱うか）・アクセス（誰がどの経路で使えるか）の3層で設計すると、抜け漏れなく整理できます。各層で「ルール・技術・運用」の3種類の対策を組み合わせ、最後に対策が守られているかを可視化で確かめるのが基本の形です。
この記事では、3層それぞれの対策、経路ごとの扱いの分け方、中堅企業での進め方を説明します。対策の対象となるリスクは「生成AI利用のセキュリティリスク一覧｜企業が対策すべき8項目」、全体像は「生成AI導入のセキュリティ 完全ガイド」を参照してください。
3層の全体像
| 層 | 守るもの | ルール | 技術 | 運用 |
|---|---|---|---|---|
| 入力 | 機密情報・個人情報 | 入力してよい情報の基準 | 会社の経路の提供、入力内容の検査 | 教育、違反時の報告 |
| 出力 | 業務の品質・権利 | 生成物の確認の手順、対外利用の条件 | 出典の確認、類似性の確認 | レビュー、事例の共有 |
| アクセス | 経路・キー・費用 | 使ってよい経路、キーの発行と失効 | 認証、キーの管理、利用量の監視 | 棚卸し、急増時の対応 |
3層は独立ではありません。たとえば、アクセスの層で「会社の経路だけを使う」と決めても、その経路が使いにくければ、入力の層のリスク（個人の無料版への機密情報の入力）が増えます。3層を合わせて、使いやすく安全な状態を作ることが目標です。
入力の層——何を入れてよいか
ルール
入力のルールは、禁止事項の列挙ではなく判断基準で書きます。
| 区分 | 例 | 扱い |
|---|---|---|
| 入力してよい | 公開済みの情報、一般的な文章の作成 | どの会社の経路でも可 |
| 条件付きで入力してよい | 社内資料、匿名化した業務データ | 学習に使われない会社の経路に限る |
| 入力してはいけない | 個人情報、顧客の機密情報、未発表の重要情報 | 原則として禁止。例外は承認制 |
技術
- 会社の経路を提供する: 学習に使われない設定の法人向けプランや API を用意する
- 入力内容の検査: 必要に応じて、個人情報などを検出する仕組みを検討する。ただし、検査の仕組み自体がプロンプトを扱うため、保存や送信の扱いを確認する
運用
入力のルールは、教育で周知し、迷ったときの相談先を決めます。違反を責めるより、報告しやすい雰囲気を作るほうが、実態の把握に役立ちます。
出力の層——生成物をどう扱うか
ルール
| 用途 | 扱い |
|---|---|
| 社内の下書き・要約 | 利用者が内容を確認して使う |
| 対外的な文書・資料 | 事実・数値・固有名詞を確認し、上長のレビューを経る |
| 画像・デザインの公開 | 権利の確認の手順を経る。特定の作品に似せる指示は禁止 |
| 判断・評価への利用 | 生成物だけで判断しない。人が最終的に判断する |
運用
出力の層は、技術よりも業務の手順と教育が中心です。誤った出力で問題になった事例（社外の公開事例や社内の事例）を共有すると、確認の手順が定着しやすくなります。
アクセスの層——誰がどの経路で使えるか
経路ごとに扱いを分ける
| 経路 | 例 | 扱い |
|---|---|---|
| 会社契約のサブスクリプション | 法人向けのチャットサービス | 席を割り当てた社員が使う。管理者の設定で学習への利用を制御 |
| 会社契約の API | OpenAI、Azure OpenAI、Claude、AWS Bedrock、Google Vertex AI | 社内システムや開発で使う。キーの管理と利用量の監視が必要 |
| 個人契約・無料版 | 個人のアカウント | 原則として業務では使わない。使う場合は入力してよい情報を限定 |
キーの管理
API の経路では、APIキーがアクセスの鍵であり、請求の単位です。
- キーの台帳を作り、誰が何のために使っているかを記録する
- シークレット管理サービスで保管し、ソースコードに書かない
- 月次で棚卸しし、使われていないキーや持ち主不明のキーを失効する
- キーごとの利用量の急増を監視し、漏えいに早く気づく
キー管理の全体像は「生成AI APIキー管理 完全ガイド」を参照してください。
対策が守られているかを確かめる
ルールを決めても、守られているかを確かめる仕組みがなければ、対策は形骸化します。確かめる方法は、層によって違います。
| 層 | 確かめる方法 |
|---|---|
| 入力 | 教育の受講状況、違反の報告件数。内容の監視は慎重に判断する |
| 出力 | レビューの記録、問題になった事例の件数 |
| アクセス | 経路ごと・部署ごとの利用量、キーの棚卸しの結果、急増の発報履歴 |
アクセスの層は、プロバイダの管理APIが返す利用量のメタデータで確かめられます。どの部署が会社の経路をどれだけ使っているか、使われていないキーはないかは、プロンプトの内容に触れずに把握できます。会社の経路の利用が少ない部署があれば、シャドーAIの兆候として、理由を聞くきっかけにできます。
入力の層で、プロンプトの内容を監視する方法もありますが、従業員のプライバシーと、監視の仕組み自体が機密情報を扱うリスクを慎重に比べる必要があります。考え方は「生成AI導入のセキュリティ 完全ガイド」で整理しています。
中堅企業での進め方
| 時期 | やること |
|---|---|
| 1か月目 | 利用実態（経路・部署・キー）を棚卸しする。入力のルール（判断基準）を決める |
| 2か月目 | 会社の経路を整え、個人の無料版から移行する。キーの台帳と保管の方法を決める |
| 3か月目 | 出力の確認の手順を業務に組み込む。利用量とキーの可視化を始める |
| 以降 | 月次で利用状況と棚卸しの結果を確認し、ルールを見直す |
専任の担当者がいない前提で、ルールは短く、確認は仕組みでを意識します。
よくある質問
Q. 3層のうち、どこから始めるべきですか？ 入力のルール（判断基準）と、アクセスの層の経路の整備から始めるのが一般的です。この2つで、最も起きやすい機密情報の入力とシャドーAIのリスクを大きく減らせます。
Q. 技術的な対策は必須ですか？ すべてを技術で防ぐ必要はありません。ルールと教育を中心に、APIキーの管理や利用量の監視など、仕組みで確かめやすい部分から技術を入れます。
Q. 生成AIを社内システムに組み込む場合は？ 3層に加えて、プロンプトインジェクション（悪意のある入力による誤動作）や、出力を他のシステムに渡すときの検証など、アプリケーションとしての対策が必要です。
まとめ
- 生成AIのセキュリティ対策は、入力・出力・アクセスの3層で、ルール・技術・運用を組み合わせて設計する
- 入力は判断基準のルールと会社の経路、出力は確認の手順、アクセスは経路の扱いとキーの管理が中心
- 対策が守られているかを確かめる仕組みを持つ。アクセスの層は利用量のメタデータで確かめられる
- 中堅企業は、棚卸し → ルールと経路 → キーの管理 → 可視化の順に、兼務前提で進める
ManageAIは、プロバイダの管理APIから利用量のメタデータだけを取得し、部署別・APIキー別の利用状況を可視化します。プロンプト原文は構造上取得せず、通信経路にも介在しません。アクセスの層の対策が守られているかを、内容に触れずに確かめられます。モニター企業を募集中です。
関連記事
次に読む
この記事を書いた人
モニター企業募集
初期費用0円・月額5万円（税別）
先着5社・2026年11月末まで
5プロバイダの利用量と費用を部署・利用者・APIキー別に可視化。読み取り専用キーの登録だけで当日から始められます。
募集要項を見る資料請求・お問い合わせ