Perplexity公開「Numbat」：AIエージェントの危険な挙動監視・防止ツール、エンドポイント制御とログ管理の確認

解説

近年、業務の自動化が進む中で、AIエージェントを利用した開発環境が増加しています。生産性が向上する一方、その振る舞いが予測不可能になり、「誤って機密情報にアクセスしてしまう」などの危険な挙動が懸念されています。

これは、悪意のある攻撃者がいなくても発生しうる「偶発的な暴走」のリスクです。AIエージェントがシステム内を巡回する際、必要な範囲以上の権限を使ってしまう可能性があります。

こうした背景から、AIエージェントの操作をエンドポイント側で監視・制御する必要性が高まっています。具体的な対策として、行動履歴の記録や不正なアクセスを防ぐ仕組みが注目されています。自社での利用に当たって、どのようなセキュリティポリシーを適用すべきか検討するきっかけになります。

ポイント

• Perplexityが「Numbat」というAIエージェントの危険な挙動を検知・防止するオープンソースツールを公開した。
• このツールは、コーディングエージェントなどの行動にフックし、機密情報へのアクセスやデータ持ち出しなど52種のルールで異常な動きをブロックする。
• Mac/Linux/Windows対応で、事後調査（ログ取得）にも利用でき、AI活用におけるセキュリティ対策の新たな基準となり得る。

情シスへの影響

・エージェント実行環境への介入レイヤー導入: 開発者向けに提供されるAIコーディングエージェント（例：Claude Code, Codex相当）などを使用する端末に対し、行動を監視し危険な操作をブロックする仕組みを導入する必要がある。

・権限とアクセス制御の強化: Numbatが検出・防御できる11カテゴリー/52種ルールに対応するためのポリシー設計が必要となる。具体的には、「機密情報への不正アクセス」「データ持ち出し（DLP）」「過剰な権限昇格」など、開発環境における最小権限原則の実装を検討する。

・ログ監視とフォレンジック対応: 危険な挙動の検知だけでなく、事後調査のためのセッションログ収集が可能であるため、エージェント活動を含む全システムの行動履歴（監査証跡）を取得し、保存・分析できる体制構築が求められる。OpenTelemetryといった標準規格への準拠も視野に入れる必要がある。

影響範囲

AIエージェントを利用する全てのエンドポイントデバイス（Mac, Linux, Windows）。特に開発環境（コーディングアシスタント利用時）での操作ログ取得とリアルタイムの挙動監視/ブロック機能、そして適用される権限レベル（ローカル・ネットワークアクセス）に影響し得る。社内システムへのデータ流出経路や、機密情報が格納されている領域全体（要確認）。

重要度

★★★★☆

対象者

• セキュリティ担当者
• Windows管理者
• Linux管理者
• Macintosh管理者

優先度

計画的に対応

優先度の理由

悪用が確認されている即時パッチの必要性はないものの、AIエージェント利用の増加は避けられず、「暴走」による情報漏洩リスクという非常に重要な脅威が増大している。そのため、全社的なAIツールの導入フェーズにおいて、セキュリティポリシーと監視・制御機構を設計する段階で検討し、手順化して適用していく必要がある。

確認手順

• 公式ドキュメントに基づき、Numbatがカバーする11カテゴリー/52種のルールセットの詳細を確認する。
• 現在利用している主要なAIエージェント（Copilot, etc.）の権限付与範囲と、どの情報資産にアクセス可能か洗い出す。
• 全開発者端末に対し、エージェントの活動ログを常時収集し、EDR/SIEMシステムに取り込むPoCを実施する。
• OpenTelemetryといった標準規格を用いて、エージェントの操作履歴やネットワーク通信データを取得できる環境を構築・検証する。