生成AI利用におけるわいせつ画像作成・投稿事例：情シスが確認すべきガイドライン策定とエンドポイント監視の見直し

解説

近年、生成AI技術が進化する中で、個人をモデルとしたわいせつな偽画像（性的ディープフェイク）の作成や投稿が深刻化しています。本件は技術的な脆弱性というよりも、倫理的かつ法的な課題として顕在化しています。

実例として、実在女性を対象に生成AIを用いて全裸などのわいせつ画像を複数作成し、SNS上にグループを通じて投稿した事件が発生しました。この事例からは、第三者が手軽に画像素材を入手し、悪質なコンテンツの作成・拡散サイクルが確立されている実態が見て取れます。

情シス部門の観点から見ると、具体的な技術対策以上に、組織全体でのガイドライン策定と教育による対応が求められています。特に、従業員がAIを利用する際のプライバシー保護や情報取り扱いのルールを改めて整理しておくことが重要になります。

ポイント

• $20年〜の生成AIを利用したわいせつ画像（性的ディープフェイク）を作成・投稿し、名誉毀損などの疑いで男を逮捕。$
• 被害者と加害者は面識がなく、SNSグループなどから画像をダウンロードし加工を依頼していた。
• 大量の画像や動画が押収され、個人情報利用、拡散の悪質性が強く指摘されている。

情シスへの影響

本件自体はセキュリティインシデントではないため、直接的なシステム脆弱性への影響はありません。

しかし、情シス部門が管理する環境において以下の点について留意が必要です。

1. AI利用に関するガイドラインの策定と周知: 従業員が個人や業務で生成AIを利用する際のガイドラインを策定し、特にプライバシーに関わる画像の取り扱い（生体認証情報を含む）についての教育を実施する必要があります。

2. エンドポイント監視の強化: USBなど外部媒体経由での大量な画像・動画ファイルのリスクある持ち出し、またはアクセスログの異常な急増について、EDR/DLPシステムによる監視体制を再点検することが望まれます。

影響範囲

全従業員（利用規約と教育の範囲）、社内SNSやコミュニケーションプラットフォーム（投稿内容およびガイドライン）要確認、エンドポイントデバイス（画像・動画データ取り扱いに関するポリシー）

重要度

★★★☆☆

対象者

• セキュリティ担当者
• ヘルプデスク担当

優先度

早めに対応

優先度の理由

本件は深刻な倫理・法的な問題提起であり、脆弱性パッチ適用が必要な緊急事態ではありません。しかし、AIの利用が一般化しつつある現在、組織内での具体的なポリシー策定や従業員教育（コンプライアンス対応）を遅らせると、将来的に情報漏洩リスクを高めるため、早めに検討を開始すべきです。

確認手順

• 全社的な生成AI利用ガイドラインの再確認と改訂案作成
• 特に「実在人物の画像」「個人が特定可能な情報」を含むデータ取り扱いに関する禁止事項を明確化する
• 従業員向けにディープフェイクやプライバシー侵害のリスクに関するセキュリティ教育を実施する
• DLPシステム等を用いて、外部共有されるファイルの画像・動画の内容（センシティブな要素）に対する監視ルールの強化を検討する