脅威ブリーフィングGenAI攻撃ライフサイクルの内側

今回のThreat Briefingでは、ジェネレーティブAIシステムを悪用するために敵が実際に使っている手口をご紹介します。セキュリティ研究者のAlex Groyzが登場し、攻撃者がクラウドベースのLLMインフラをどのように積極的に悪用しているのか、公開された推論エンドポイントやShadow AIから、プロンプトインジェクション、ジェイルブレイク、推論駆動型のデータ流出まで、その手口を解説します。MITRE ATLASフレームワークがこれらの攻撃にどのように対応するかを探り、防御者が敵対的な行動のシミュレーション、検出の検証、ライフサイクル全体にわたるGenAIの安全性の確保にどのように利用できるかを議論します。