大規模言語モデルの安全対策強化と再開に伴う利用上の留意点

解説

Anthropicが提供するAIモデル「Fable 5」が、米政府からの輸出管理命令により一時停止した経緯や、再開に至るまでの過程について詳述しています。

きっかけは、外部の研究者によって、同モデルの安全対策を回避し、ソフトウェアの脆弱性を見つけ出し、悪用するためのコードまで生成できる手法が発見されたことです。これを受け、Anthropic社は米政府と連携して徹底的な検証を行い、広範なAIモデル（Claude OpusやGPTなど）でも同様の手法が可能であることを確認しました。

再開に向けて、同社は安全対策の中核となる「分類器」をアップデートし、問題となった悪用手法の検出率を大幅に向上させました。しかし、この強化策の結果として、正常で無害なリクエストが誤ってブロックされる「誤検知」が増加するという代償も生じています。

また、業界全体でのAIの安全性に関する共通の枠組み（ジェイルブレークの深刻度評価など）の策定に動き、各国政府とも連携して国家安全保障に関わるモデルの検証を行う方針を示しています。

これらの対応を経てFable 5は7月1日から日本を含む全世界で利用可能となります。この事例からは、高性能なAIモデルが社会実装される際、セキュリティ面の課題に対して企業側が大きな調整コストとトレードオフを強いられることが浮き彫りになっています。

ポイント

• AnthropicのFable 5は、安全対策の回避手法が発見され米政府の命令により提供停止となった後、再開に至るまでの経緯についての解説です。
• 同社はセキュリティ強化のため「分類器」をアップデートしましたが、その反面で誤検知が増加するというトレードオフを抱えています。
• 今後は業界共通の安全評価枠組みの策定や政府との連携を通じて、AIモデルのガバナンス強化が進むと予想されます。

情シスへの影響

・利用可否とアクセス制限: Fable 5は日本を含む全世界で利用可能になりますが、有料プランを利用するユーザーに対しては、再開直後は一時的な利用上限（最大50%）が設けられます。サービスやアカウントの状態変化がないか確認が必要です。

・出力を巡る調整 (精度 vs. 安全性): 今回の事例が示すように、安全対策を極限まで高めると、無害な業務プロセス（コーディングやデバッグなど）でも誤ってAIからの出力がブロックされる可能性があります。開発や運用において利用する場合、生成された結果を利用する際の「信頼度」と「エラー対応フロー」を見直す必要があります。

・ガバナンス/ポリシーの見直し: 今後はAIモデルの安全性を評価するための業界共通基準（ジェイルブレーク等の深刻度評価）が求められる可能性が高まります。組織としてAI利用ガイドラインを策定する際、単なる「利用可否」だけでなく、「潜在的な悪用リスクに対する耐性」や「外部連携時のガバナンス体制」を含める検討が必要です。

重要度

★★★☆☆

対象者

• セキュリティ担当者
• M365管理者
• AI関連システム担当者（自由記述）

優先度

計画的に対応