ITRが示す生成AIにおける新たなリスク対策：AI利用実態の可視化とガバナンス基盤構築の必要性

解説

近年、生成AIの活用が急速に進む中、企業での取り扱いリスクについても改めて注目が集まっています。

これまで培ってきた従来のセキュリティ対策だけでは対応しきれない、「AI特有のリスク」への備えが必要な段階に来ています。

単なる入力データの漏洩だけでなく、AIが自律的に処理を行う「AIエージェント」の実行プロセスそのものが管理上の焦点となりつつあるため、計画的なガバナンス体制の構築が重要になっています。\n

ポイント

• 生成AIの活用拡大に伴い、プロンプト流出やハルシネーションなど、従来とは異なるAI特有のリスクが増大している。
• リスクは、単純な入力データからの漏洩から、自律的な処理を行うAIエージェントによる実行プロセスそのものへの管理が求められている段階にある。
• 企業はAI利用の初期企画段階からガバナンス（ガードレール、監査証跡など）を組み込み、まず現在の利用実態の可視化に努めるべきである。

情シスへの影響

本記事は特定の製品や脆弱性に関するものではありませんが、生成AIの社内導入・活用を進めている情シス担当者にとって、以下の管理上の課題認識と計画的な対策立案の必要性を強く示唆しています。

1. 情報漏洩リスクの増大（入力/出力制御）：単なるDLPや従来の認証ではカバーできない、プロンプト内容やAIが出力した機密情報の漏洩対策が必要となる可能性があります。利用する生成AIサービスのAPI接続、あるいは社内システムへの組み込み部分での入出データのフィルタリングやマスキング制御の仕組み検討が必要です。

2. ガバナンスと可視化（監査・記録）：業務プロセスとして生成AIを利用する場合、どのような情報が、誰によって、どのように利用され、何を成果物とするのかという「ログ」レベルの追跡管理（オブザーバビリティ）や、「どのデータに基づいて判断されたか」というトレーサビリティ確保の仕組み作りが必須となります。これにより、コンプライアンスと監査対応を可能にします。

3. システム的な統制（ガードレールの実装）：AIエージェントなど自律的に処理を行う機能の利用が想定される場合、その実行範囲や使用できるデータソース、許容される出力形式などを限定する仕組み（ガードレール）を設計・導入する必要が生じます。これは単なるポリシー設定だけでなく、システムのワークフロー制御レイヤーでの実装が必要となる場合があります。

影響範囲

生成AIの利用実態全般 (特に自律的な処理を行うAIエージェントや組み込みシステムへの応用) / 全ての利用者（入力・プロンプト管理者）/ 利用しているクラウドサービスAPI、および社内データを利用するすべての業務システム／ID管理・アクセス制御が絡むAIプラットフォーム全体。

重要度

★★★☆☆

対象者

• セキュリティ担当者
• M365管理者
• Entra管理者

優先度

計画的に対応

優先度の理由

これは特定製品の脆弱性や即時的なパッチ適用を求めるものではありませんが、生成AI利用が本格化する企業においては、「どうガバナンスするか」「どこまで制御できるか」という管理上の前提条件に関わるため、導入・運用計画段階から取り組むべき重要課題です。まず、自社でどの生成AI技術を利用しているか（情報収集）を洗い出し、その利用実態に合わせて統制策の検討を始める必要があります。

確認手順

• 現在社内で利用されている全ての生成AIサービス（商用/プライベート含む）のリストと、連携先のシステムを特定する。
• これらのサービスにおけるデータ入出力フローを洗い出し、機密情報が漏洩し得るポイント（プロンプト入力欄など）を特定する。
• 各サービスの利用ログ・監査証跡機能が存在するかどうかを確認し、必要なログ項目（利用者ID、処理内容、時間）を定義する。
• AIによる自律的処理が行われる可能性がある業務プロセスを洗い出し、そのプロセスに対してどのレベルの制御が必要か（ワークフロー制御、承認ステップ追加など）を設計レビューする。