利用監視ツールと従業員プライバシー｜原文を見ない設計

生成AIの利用監視ツールを選ぶときは、プロンプトの内容（原文）を見る「監視」と、利用量のメタデータだけを見る「可視化」を区別します。費用の管理や利用状況の把握が目的なら、原文を見る必要はありません。原文を見る監視は、従業員のプライバシー、監視の仕組み自体の情報漏えいリスク、利用の萎縮という問題を伴います。

この記事では、2つの方式の違い、原文を見る監視が生む問題、原文を見ずに統制する設計、従業員への説明の仕方を説明します。全体像は「生成AI導入のセキュリティ 完全ガイド」を参照してください。

「監視」と「可視化」の違い

どちらが正しいということではなく、目的に対して必要な範囲で選ぶことが重要です。

原文を見る監視が生む4つの問題

1. 従業員のプライバシー

プロンプトには、業務の内容だけでなく、相談ごとや個人的な事情が含まれることがあります。内容を見られると分かっていると、従業員は強い抵抗を感じます。監視の範囲・目的・閲覧できる人を事前に示さずに導入すると、信頼を損ないます。

2. 監視の仕組み自体の情報漏えいリスク

社員が機密情報を入力していれば、その内容が監視ツールに保存されます。監視のために入れた仕組みが、機密情報が集まる新たな場所になります。監視ツールの管理者や提供元の担当者が内容を見られる状態も生まれます。

3. 利用の萎縮とシャドーAI

内容を監視されていると感じると、従業員は会社の経路を使わなくなり、個人のスマートフォンや自宅の PC で生成AIを使うようになります。監視を強めるほど、会社が把握できない利用（シャドーAI）が増えるという逆効果が起こりえます。

4. 運用の負担

原文を監視しても、大量のプロンプトを人が読むことはできません。自動の検知を入れても、誤検知の確認や、違反が見つかったときの対応の手順が必要です。見るだけで対応できない監視は、リスクだけを増やします。

目的ごとに必要な範囲

多くの目的は、原文を見ずにメタデータで達成できます。原文が必要なのは、入力ルールの違反の検知と、インシデント時の調査に限られます。

原文を見ずに統制する設計

この設計では、日常は利用量のメタデータで状況を把握し、原文は例外的な調査の場面に限ることになります。従業員への説明もしやすく、監視の仕組み自体が機密情報を抱えることもありません。

従業員への説明

利用状況を可視化するときは、導入前に次の点を従業員に説明します。

「使った量を見る」と「内容を見る」を明確に分けて説明すると、従業員の受け止めは大きく変わります。

規程に書くべきこと

利用状況の可視化や監視を行う場合は、社内規程（生成AIの利用ガイドラインや情報セキュリティ規程）に次を書きます。

• 取得する情報の範囲（メタデータのみか、内容を含むか）
• 取得の目的と、目的外の利用をしないこと
• 閲覧できる人と、その権限
• 保存期間と削除
• 内容を調査する場合の条件と手続き（インシデント時など）

従業員への説明文の例

導入時に社内へ出す説明文の例です。自社の状況に合わせて書き換えて使います。

生成AIの費用管理のため、◯月から会社契約の生成AI（API）の利用量を部署・利用者ごとに集計します。集計するのは、使ったトークン数・モデル・日時・費用です。入力した文章や生成された文章の内容は取得しません。集計結果は情報システム部と各部門長（自部門の分のみ）が確認し、予算の管理と利用の支援に使います。個人の評価には使いません。ご不明な点は情報システム部までお問い合わせください。

説明文には、「見ないもの」を明記することが大切です。従業員が最も気にするのは、何を入力したかを見られるかどうかだからです。

「内容も見たい」と求められたときの判断

経営層や監査部門から、プロンプトの内容の監視を求められることがあります。そのときは、次の順で判断します。

1. 目的を確認する: 何のために内容を見たいのか（違反の検知、用途の把握、インシデントの調査）
2. メタデータで達成できないかを検討する: 用途の把握なら、キーを用途ごとに分ける設計で足りることが多い
3. 必要な範囲を限定する: 内容が必要なら、対象の業務・期間・閲覧者を限定する
4. リスクを比べる: 監視の仕組み自体が機密情報を抱えるリスク、利用の萎縮と比べる
5. 規程と説明を整えてから始める: 従業員への説明と規程の改定を先に行う

よくある質問

Q. 原文を見ないと、機密情報の入力を防げないのでは？ 入力を完全に防ぐことは、原文を見ても困難です。判断基準のルール、教育、会社の経路の提供で入力のリスクを下げ、利用状況はメタデータで把握するのが、プライバシーとリスクのバランスが取れた方法です。

Q. 利用量を個人単位で見るのはプライバシーの問題になりませんか？ 業務で使う会社の経路の利用量を、費用管理の目的で見ることは一般的です。ただし、目的と閲覧範囲を説明し、個人の評価に使わないことを明示します。

まとめ

• 生成AIの利用監視は、原文を見る「監視」と、メタデータだけを見る「可視化」を区別する
• 原文を見る監視は、プライバシー・監視の仕組み自体の漏えいリスク・利用の萎縮・運用の負担を伴う
• 費用管理・利用状況の把握・キーの管理・シャドーAIの兆候の把握は、原文なしで達成できる
• 日常はメタデータで把握し、原文は例外的な調査に限る。何を見るかを従業員に説明し、規程に書く

ManageAIは、プロバイダの管理APIから利用量のメタデータだけを取得し、プロンプト原文は構造上取得しません。部署・利用者別の利用状況を、従業員の入力内容に触れずに可視化できます。モニター企業を募集中です。

関連記事

• 生成AI導入のセキュリティ 完全ガイド｜審査・データ保護・管理ツール選定
• メタデータと原文の違い｜可視化に原文は要らない
• 通信経路に介在しない可視化とは｜可用性を損なわない設計

次に読む

• 生成AIガバナンスの考え方｜禁止ではなく「使わせながら統制」へ