脅威ブリーフィング生成AI攻撃ライフサイクルの内側

今回のThreat Briefingでは、生成AIシステムを悪用するために敵が実際に使っている手口をご紹介します。セキュリティ研究者のAlex Groyzが登場し、攻撃者がクラウドベースのLLMインフラをどのように積極的に悪用しているのか、公開された推論エンドポイントやShadow AIから、プロンプトインジェクション、ジェイルブレイク、推論駆動型のデータ流出まで、その手口を解説します。MITRE ATLASフレームワークがこれらの攻撃にどのように対応するかを探り、防御者が敵対的な行動のシミュレーション、検出の検証、ライフサイクル全体にわたる生成AIの安全性の確保にどのように利用できるかを議論します。