生成AIの活用に関するセキュリティおよび運用設計上の考慮事項

解説

最近、企業での業務利用が加速している生成AIについて、その技術的な進展とともに、具体的な利用方法やデータの取り扱いに関するガイドラインが求められています。

特に、そのまま公開されている汎用性の高いLLM（大規模言語モデル）を利用する際の課題として、「入力データに含まれる機密情報の流出リスク」や「出力される情報の内容検証の必要性」などが指摘されています。単なる検索エンジンとの違いを理解しつつ、企業独自の業務プロセスに組み込む際には、セキュリティとガバナンスの視点からの検討が必須となります。

また、AIモデルを自社の環境で運用する場合（オンプレミスまたはプライベートクラウドなど）、費用対効果だけでなく、データ管理や認証認可の仕組みをどのように設計するかが重要なテーマです。

これらの考慮事項を踏まえると、生成AIは非常に強力なツールですが、単に導入するのではなく、情報システム部門が主体となって適用範囲、利用ルール、セキュリティ対策までを含めて計画的に進める必要があります。特に、機密データを扱う場面では注意が必要です。

ポイント

• 生成AIの業務活用が進む中で、入力データに含まれる機密情報の漏洩リスクや、出力される情報の内容検証（ハルシネーション対策）が重要な懸念事項となっている。
• AIモデルを安全に自社環境で運用するためには、適切なデータ管理基盤の構築や、利用ルール、アクセス制御などのガバナンス設計が必要である。
• 技術的な導入だけでなく、セキュリティと業務プロセスへの組み込み方を考慮した、包括的かつ計画的なアプローチが求められている。

情シスへの影響

■データ流出・機密性:

利用者がAIに対して機密性の高い情報（個人情報や企業秘密など）をプロンプトとして入力してしまうと、その情報が外部のLLMベンダー側の学習データとして取り込まれてしまうリスクがある。これは最も注意すべき点であり、可能な限り内部環境での処理または匿名化・マスキングされたデータの利用に制限が必要。

■モデル選定と運用:

汎用的なクラウドAIサービスを利用するか、よりセキュリティを担保できるプライベートな環境（オンプレミスや限定的なVPCなど）でファインチューニングした専用モデルを利用するかの選択が求められる。利用コストだけでなく、データ主権の確保という観点から、この選定はシステム設計全体に関わる。

■ガバナンスと制御:

AIの応答の正確性（ハルシネーション）や公平性を担保するため、単にモデルを導入するだけでは不十分であり、プロンプトエンジニアリングによる入力ガードレールや、出力結果に対するフィルタリング機構、適切な権限管理（誰がどのデータを利用できるか）といった制御レイヤーの実装が必要。

影響範囲

全ユーザーおよび管理者層。特に機密情報を扱う部門の従業員。

■影響範囲:

主に情報システム全体のクラウド/オンプレミスのAI利用環境、IDアクセス管理領域（誰がどのデータソースにAIがアクセスできるか）、業務用アプリケーション（AI連携を前提とした業務フロー）

■推奨される対策要素：

1. 機密データの入力インターセプトとフィルタリング:

2. 内部専用モデルまたはプライベートなLLM環境への切り替え判断。

3. アクセス制御とログ監視の強化。

重要度

★★★★★

対象者

• セキュリティ担当者
• M365管理者
• Entra管理者
• AD管理者
• ネットワーク管理者

優先度

今すぐ対応

優先度の理由

現在、生成AIの利用は急速に普及しており、悪用（機密情報漏洩や誤情報による業務停止など）のリスクが顕著です。特に、入力データの流出懸念が高いため、「今すぐ対応」レベルと判断します。現行システムにおけるAI連携部分を特定し、機密性の高いデータが外部LLMに送信されないためのガードレール設置（フィルタリングやアクセス制限）の緊急検討が必要です。また、部門ごとの利用ガイドライン策定も急ぎ進めるべきです。

確認手順

• 組織内で生成AIを利用する具体的な業務プロセスを洗い出し、機密情報（個人情報、顧客データ、財務情報など）がプロンプトとして含まれる箇所を特定する。
• 現在利用可能な外部AIサービスのアカウント設定を確認し、データの保持ポリシーや学習利用に関する規約を確認する。可能であればベンダーに問い合わせを行う。
• 業務用アプリケーションと連携している生成AIのAPIコールログを分析し、どのような種類のデータ（機密性レベル）が送信されようとしているかを監視・検証する。
• プライベート環境でのLLM運用または内部専用モデル導入に関する技術的な実現可能性とコストを見積もり、代替案として検討を開始する。