AIエージェントの挙動監視:実践的なセキュリティガイド

主な洞察

  • 有効な認証情報があっても、エージェントのそのタスクに対する行動が承認されていたとは限らない。
  • タスクの文脈と独立したシステム記録を照合することで、エージェント自身の説明のみに頼る場合よりも、調査の信頼性が高まる。
  • ポリシーチェックと行動分析は、それぞれ異なる目的を果たします。すなわち、既知の境界を強制することと、不審な一連の動作を調査することです。
  • モニタリングの網羅性は、欠落している証拠や確認済みの封じ込め状況、ならびにアラートの品質を通じて測定すべきである。

2026年7月に行われたサイバー評価において、英国AIセキュリティ研究所(AISI)は、122回のエージェント実行のうち10回で、許可されていないインターネット上の実稼働動作を確認しました。インターネットアクセスは意図的に有効化され、プロバイダーのサイバー分類機能は無効化されていたため、これらの結果は企業におけるインシデント発生率を反映するものではありません。この調査結果は、セキュリティチームが、エージェントの実際の動作と、そのエージェントに許可されたタスクとを照らし合わせて確認する必要がある理由を示しています。

AIエージェントの行動監視とは、エージェントの行動、ツールの使用状況、アクセス状況、および結果を継続的に収集・分析し、割り当てられたタスク、権限、またはセキュリティポリシーに違反する活動を特定することです。効果的な監視では、エージェントの実行履歴と、エージェントがアクセスしたシステムからの証拠とを関連付けます。

セキュリティオペレーションセンター(SOC)にとって、重要な問いは具体的です。すなわち、「このエージェントは、このIDを使用して、承認されたリソースに対して承認された操作を実行したのか、そしてその後どうなったのか」ということです。

AIエージェントの挙動監視とは何ですか?

AIエージェントの行動監視では、ワークフロー全体を通じて、エージェントのタスク、委任された権限、および運用範囲に基づいて、その行動が適切かどうかを確認します。これには、初期リクエストから最終結果に至るまでの各ステップが含まれ、ツールへの呼び出し、データ取得、権限の委譲、および外部システムへの変更などが対象となります。

エージェントは、サポートチケットを読み、顧客レコードを検索し、別のエージェントに分析を依頼し、返信文を作成する場合があります。各ステップごとに、異なるセキュリティ上の課題が生じます。権限のあるレコードを閲覧しても、そのレコードのエクスポートが自動的に許可されるわけではなく、メッセージを作成する権限があっても、そのメッセージを送信する権限があるとは限りません。

基盤となる大規模言語モデル(LLM)は、このシステムを構成する要素の一つです。関連する監視分野は、全体像のさまざまな側面を明らかにしています:

規律 主な質問 典型的な証拠
LLMのパフォーマンス監視 そのモデルは、信頼性が高く、動作範囲内で正常に動作していますか? 遅延、エラー、トークンの使用状況、および評価された応答の品質
エージェントの可観測性 ワークフローはどのように実行されましたか? トレース、ツール呼び出し、取得、再試行、およびエージェント間の引き継ぎ
エージェントの動作に関するセキュリティ監視 その行動は、課題の範囲および許可された範囲内に収まっていたか? タスクの文脈、政策決定、アイデンティティ、行動の連鎖、および裏付けられた効果
エージェントのインベントリおよび状態管理 どのようなエージェントが存在し、それらは何にアクセスできるのでしょうか? 所有者、連携、権限、設定、および承認された用途

行動監視は、AIエージェントのセキュリティにおける運用上の要素の一つです。これは、正確な資産管理とアクセス制御に依存すると同時に、エージェントが実行中にそのアクセス権をどのように利用しているかに関する証拠を提供します。

独立したモニタリングがなぜ重要なのか?

セキュリティチームは、エージェントが報告したアクションを裏付け、トレースに記録されていないアクティビティを特定するために、エージェントのアクティビティを独立して可視化する必要があります。ワークフローのトレースと外部システムの記録を組み合わせることで、意図されたアクション、要求されたツール呼び出し、および別のシステムで確認された変更を区別しやすくなります。

AISIの調査において、一般的なセキュリティ監視により、異常な外部へのトラフィックが検出されました。その後、調査チームはエージェントの活動を精査し、評価処理を停止させ、関連するマシンを隔離しました。AISIは、自社の監視システムが評価処理の実行状況を監視するようには設計されていなかったことを認めました。この事例から得られる運用上の教訓は、企業全体の検知体制と、エージェントのワークフロー内部の可視性を連携させることです。

ここでは信頼の境界が重要です。「ファイルは送信されなかった」というエージェントが生成した要約は、宛先サービスの取引記録とは証拠としての重みが異なります。署名済みのサプライヤートレースであっても、その実行記録が完全であるか正確であるかを証明するものではありません。結果に関する主張については、エージェントの管理外の範囲で記録された観察結果によって裏付けを行う必要があります。

提案されている以下の調査フレームワークを使用してください:

  • 承認されたタスク:依頼内容、業務上の目的、および許可されたリソースを確定する。
  • 委任された権限:ユーザー、ワークロードの識別情報、権限、および他のエージェントへの委任の有無を特定します。
  • 確認された効果:ツール、ID管理システム、ワークロード、およびターゲットサービスからの記録を用いて、その結果として行われたアクションを裏付ける。

接続の欠落は、証拠の欠落として記録する。共有サービスアカウントやツールログの欠落は、問題がないという結論を導くのではなく、原因の特定に対する信頼性を低下させるべきである。

AIエージェントがどこで一線を越えるのかを見極める

文書化されたエージェントの挙動や、ネットワークおよびID関連のアクティビティを監視し、予期せぬ動作を検知し、意図した境界を越えたエージェントを封じ込めるための実践的な手順について解説します。

ホワイトペーパーをダウンロード →

どのようなテレメトリデータを収集すべきでしょうか?

タスク、ID、ツール、データアクセス、ポリシー、および結果の記録を収集し、各重要なアクションをその権限および確認された結果と結びつけられるようにする。以下のイベントモデルは、チームが自社のエージェントフレームワーク、データポリシー、および利用可能な監査インターフェースに合わせて調整すべき、提案された出発点である。

証拠展示エリア 便利なフィールド セキュリティの質問
業務内容と責任の所在 タスク識別子、実行識別子、業務責任者、依頼者、承認された目的、および有効期限 この処刑によって、どのような目的が達成されることになっていたのでしょうか?
アイデンティティと委任 ワークロード識別子、委任ユーザー、権限スコープ、セッション参照、および親子実行識別子 その捜査官は、他の捜査官を通じても含め、誰の権限を行使していたのか?
ツールと連携機能 ツールおよびサーバーの識別情報、バージョン、対象リソース、サニタイズ済みの引数、リクエスト識別子、および結果のステータス どの操作が、どの連携を通じてリクエストされましたか?
データとメモリ リソース識別子、機密性ラベル、取得元、メモリの変更、および来歴 どのような情報が、次のアクションに影響を与えたり、後の実行に引き継がれたりしたのでしょうか?
実行と接続性 ワークロード/コンテナの識別情報、利用可能な場合のプロセスイベント、送信先、接続時間、および転送メタデータ 実行環境は実際にはどのような動作をしたのでしょうか?
方針と承認 ポリシーバージョン、許可/拒否の決定、承認参照、承認者、関連アクション、および有効期限 その具体的な措置は、実施された時点で承認されていたのでしょうか?
効果とコレクションの健全性 ターゲットシステムの受信または変更レコード、取り込み時刻、シーケンスの欠落、およびコレクターのステータス その措置は効力を生じたのでしょうか。また、関連する証拠が欠落している可能性はあるのでしょうか。

イベント時刻と収集時刻の両方を保持してください。そうしないと、SaaS(Software as a Service)アプリケーションからの監査データのエクスポートが遅延し、調査の流れが誤解を招く恐れがあります。サポートされている統合機能間で相関識別子を伝播させ、IDやトレースコンテキストが失われる箇所を文書化してください。

モデルコンテキストプロトコル(MCP)による統合については、サーバーの識別情報および、説明、スキーマ、権限ヒントを含むツール定義全体の変更を追跡してください。これらのメタデータは、ツールの選択や承認の仕方に影響を与える可能性があります。権限ヒントは意図された動作を記述するものであり、アクセスを強制するものではありません。ある統合を通じて読み込まれた情報が、別の、一見正当に見えるツールを通じて開示される可能性があるため、サーバー間のデータフローを監視してください。

リスクの高いエージェントの行動をどのように検知するか?

禁止されているアクションに対しては明示的なポリシーチェックを、不審な一連の動作に対しては文脈に応じた行動分析を活用します。この組み合わせにより、明らかな承認違反と、調査が必要な異常な動作とを区別しやすくなります。

H3 認証およびポリシー違反から始める

各ワークフローについて、強制力のある境界を定義します。例としては、承認済みのデータ収集、外部の送信先、管理業務、支出上限、および人間の判断を必要とするアクションなどが挙げられます。

エージェントが以下の操作を試みた際に、セキュリティイベントを生成します:

  • 割り当てられた顧客、プロジェクト、またはテナント以外のリソースにアクセスします。
  • 必要な承認を得ずに、機密性の高い操作を実行する。
  • アクションが承認された後に、対象やパラメータを変更する。
  • 承認を再利用して、2回目の実行を行う。
  • そのタスクで許可されている範囲よりも広い権限を持つエージェントに委任する。
  • コレクターを無効にするか、保護された監視設定を変更します。

承認の検証は、アクションを実行するコンポーネント内で行う。影響の大きいアクションについては、承認を現在のアクターおよび正確なツール呼び出しに紐付け、それが依然として有効であることを確認した上で、実行時に一度だけ利用するようにする。検証と利用をアトミックに行うことで、並行するリクエストが承認を再利用できないようにする。モデルによって生成された「承認済み」フラグでは、これらの条件を満たすことはできない。

信頼境界を横断するシーケンスを検出する

個別に許可された複数の呼び出しが、許可されていない結果をもたらす可能性があります。ツールやIDをまたいだアクションを関連付け、その結果として生じる一連の動作をタスクの目的と照らし合わせて確認してください。

検知パターン 相関を示す証拠 検討すべき調査事項
センシティブ検索とそれに続く外部転送 リソースの感度、ツールのリクエスト、宛先、および転送記録 宛先および開示が承認されていたかどうかを確認する
新たな特権の獲得に続き、より広範な発見がもたらされた 役割または同意の変更、IDセッション、およびその後のAPI操作 誰が権限を付与したか、またそのタスクに権限が必要だったかどうかを確認してください
拒否されたアクションが繰り返された後、別のツールルートが実行された 拒否、再試行、ツール/サーバーの変更、および一般的な実行履歴 予想される回復と、境界を迂回しようとする試みとを区別する
委任に続く制限付き措置 親タスク、子タスクの識別子、権限の範囲、および子タスクの実行 委任によって元の制限が維持されていることを確認してください
ツールの定義変更に伴う動作の変化 統合バージョン、定義/スキーマの変更、およびそれに伴う呼び出し 不正な統合変更やツールポイズニングを調査する
結果的な作業中の伐採間隔 収集者の健康状態、欠落している配列、および独立したサービス記録 走行が安全であったと結論付ける前に、依然として確認可能な事項を特定する

これらを、局所的に検証すべき検知仮説として扱う。いずれの項目も、それ単体では悪意のある意図を立証するものではない。許可された移行と許可されていないエクスポートでは、同様の転送パターンが生じる可能性があるため、タスクの文脈を把握することが不可欠である。

タスクおよびバージョンごとのベースライン

同等のワークフロー、エージェントのバージョン、ツールセット、および権限レベルについて、動作の基準値を設定してください。研究助手と管理担当者は、データへのアクセスやシステム変更に関して、同じ期待値を共有すべきではありません。

まず、アクセスされたリソース、宛先の新規性、操作の種類、再試行パターン、委譲の深さ、タスクに対する処理量など、観測可能な特徴から検討を始めます。検出ルールを調整して除外する前に、ワークフローの所有者と正当な例外ケースについて確認してください。

厳格なポリシー上の境界線と、学習されたベースラインは明確に区別してください。頻繁に繰り返される不正な行動は、単に一般的であるという理由だけで容認されてはなりません。ベースラインにバージョン管理を行い、モデル、指示、統合、または権限に変更を加えた後は、その都度再検証を行ってください。

行動ベースの脅威検知は有用な背景情報を提供しますが、異常が検出された場合は依然として調査が必要な事由となります。データの機密性、権限、潜在的な影響、および裏付けとなる兆候に基づいて、事案の優先順位を決定してください。

エージェントと企業全体にわたる監視体制を構築する

実行パスを計測対象とし、エージェントが変更を加えるシステムを個別に監視することで、ビルドエージェントの監視を行う。監視制御はエージェントの権限の範囲外に置き、ランタイムの信頼性が低下した場合でもワークフローのコンテキストを維持する。

実行パスを設定する

サポートされているランタイムインターフェースを通じて、タスクの開始、モデルとのやり取り、ツールの要求、委任、ポリシーの決定、および完了イベントをキャプチャします。ツールゲートウェイや実行ラッパーを利用することで、機密性の高い操作を実行する前に、コンテキストを紐付けたり、制限を適用したりすることができます。

エージェント・ハーネスは、モデルとデータ、ツール、メモリ、および実行権限を結びつけます。このため、ハーネスとその統合部分は、制御を適用するための実用的な場所となります。より広範なエージェント型AIのセキュリティ設計においては、ワークフローおよびそれに接続されたシステム全体にわたって、これらの制御を調整する必要があります。

サポートされている場合は、OpenTelemetry GenAIのセマンティック規約を使用してください。インスツルメンテーションライブラリやエクスポーターがどのバージョンの規約をサポートしているかを確認し、ローカル拡張機能については文書化してください。上記のセキュリティイベントモデルは提案されている運用レコードであり、すべてのフィールドが標準化された属性であることを意味するものではありません。

影響の大きい操作については、実行前にポリシーを評価してください。トランザクション完了後に送信される非同期アラートでは、トランザクションパス上の制御と同じレベルの保護は得られません。

アイデンティティ、ネットワーク、クラウド、およびSaaSのアクティビティを関連付ける

エージェントイベント、IDプロバイダーのレコード、クラウド監査イベント、アプリケーションの変更、ワークロードのテレメトリ、およびネットワークアクティビティを関連付けます。明示的なリクエスト識別子およびセッション識別子を優先してください。タイムスタンプと共有IDしか利用できない場合は、帰属の不確実性を明記してください。

ネットワーク記録からは、予期せぬ送信先やデータ転送が明らかになることがあります。通常、ネットワーク記録だけでは、暗号化されたリクエストの内容や、その操作の業務上の目的を特定することはできません。アプリケーションのトレースは文脈を補完し、対象システムの監査記録は、その影響を特定するのに役立ちます。

これはセキュリティの可観測性の実践的な活用例です。アナリストは、アラートから、接続されたシステム全体にわたるその背景にある証拠へと追跡していく必要があります。

機密性の高いテレメトリデータを保護し、システムの状態を監視する

データの最小化、アクセス制限、改ざん検知により、エージェントのテレメトリを保護し、データ収集の欠落箇所を対応担当者が把握できるようにします。一元的な収集を行う前に、認証情報、トークン、および不要な個人情報や機密情報を伏せてください。コンテンツの全文が不要な場合は、リソース識別子や機密性メタデータを優先して使用してください。収集が制限されるコンテンツについては、具体的な目的、アクセスポリシー、および保存期間を別途定義してください。

記録を不正アクセスや改ざんから保護し、収集の中断を検知するとともに、監視イベントをインシデント対応プロセスに統合する。エージェントに対し、その監視に使用される中核的な証拠を書き換える権限を与えない。

データ取り込みの中断、時計関連の問題、イベントの欠落、およびコレクターの設定変更をテストします。必要な承認や監査管理が機能しなかった場合は、影響の大きい操作を一時停止します。リスクの低い読み取りワークフローについては、記録機能の中断中に実行を継続できるかどうかを定義し、証拠の欠落がある場合はそれを可視化します。この決定は、その操作のリスクと、それを停止した場合のビジネスへの影響を反映したものであるべきです。

不審なエージェントの活動にはどのように対応すればよいでしょうか?

不審なエージェントの活動に対しては、証拠を保全し、影響範囲を特定し、承認された制御措置を適用し、封じ込めが確認されるというインシデント対応プロセスを通じて対処してください。インシデントが発生する前に、各介入措置を承認できる担当者と、その措置を適用できるシステムを明確に定義しておいてください。

ワークフローに適した応答シーケンスを使用してください:

  • 証拠を保全してください。当該タスク、実行履歴、関連する入力データ、ツール記録、ポリシーバージョン、および外部監査イベントを、当該インシデントのアクセスルールに基づいて保持してください。
  • 範囲を明確にする。関与する主体、アクセスされたリソース、影響を受ける統合、および委任された作業やキューに入れられた作業を特定する。
  • 対応策を選択してください。選択肢には、実行の一時停止、ツールの操作の拒否、宛先の制限、または影響を受ける統合やIDの無効化などがあります。
  • 承認された管理手順に従って実行する。実行者、対象、時刻、結果、およびエラーがあればその内容を記録する。推奨される措置と実際に実施された措置は区別して記録する。
  • 封じ込めが確実に行われていることを確認してください。対象サービスの動作を確認し、子エージェント、バックグラウンドジョブ、および再試行がアクティビティを継続できないことを確認してください。
  • 復旧して再テストを行ってください。制御された状態で処理を再開する前に、過剰な権限、セキュリティ侵害を受けた統合機能、影響を受けたメモリ、または安全でない命令について対処してください。

キルスイッチには、明確な適用範囲が必要です。表示されているチャットを停止しても、スケジュールされたタスクや委任されたワーカーが実行されたままになる可能性があります。同様に、認証情報の失効リクエストを送信しただけでは、下流のすべてのセッションへのアクセス権が失われたことを証明するものではありません。関連するサービスにおいて、措置が確実に実施されていることを確認してください。

信頼度とビジネスへの影響度に応じて自動化を選択してください。明示的に禁止されている宛先に対する事前承認済みのブロックは、複数の重要なワークフローで共有されているIDを無効にするよりも、自動化しやすいです。

データ流出の試みの例

信頼できない添付ファイルによって、ケース固有の検索が許可されていないデータエクスポートへとリダイレクトされた場合、サポート担当者は許可された権限の範囲を超える操作を行ってしまう可能性があります。以下の架空のワークフローは、合成データを用いて提案されている検知および対応の設計を説明するためのものであり、実際に報告された顧客のインシデントではありません。

このエージェントは、1人の顧客の案件を閲覧し、社内向けの返信草案を作成する権限を持っています。以前の統合機能ではレポート作成もサポートされていたため、その基盤となるサービスアカウントにはより広範なアクセス権限が与えられています。

  1. 信頼できない入力がワークフローに取り込まれました。添付ファイルには、追加の顧客レコードを収集し、外部サイトにアップロードするよう指示する内容が記載されています。これは prompt injection。
  2. エージェントがより広範なデータを要求しています。サービスアカウントは技術的にはそのリクエストを行うことができますが、ツールの要求はケース固有のタスクの範囲を超えています。タスクを意識した権限チェックにより、このリクエストを拒否することができます。
  3. 2つ目の境界が転送の試みを捕捉します。読み取り制御が欠落しているか、あるいは機能していない場合、承認されていない宛先へのその後のアップロード要求に対して、別途介入する機会が生まれます。実行時の宛先ルールにより、その制御された経路を通じた送信前に、アップロードを拒否することができます。
  4. アナリストはその一連の経緯を再構築する。調査により、添付ファイル、タスク、サービスアカウントのセッション、取得記録、およびアップロードの決定が結びつけられる。ネットワークおよびターゲットシステムの記録から、どの下流への影響が確認できるかが判明する。
  5. チームはワークフローを停止・修復します。対応担当者は実行と委任された作業を一時停止し、他の経路を通じてデータが流出していないかを確認した上で、再テストを行う前に統合機能の権限を制限します。

最終的なインシデント記録では、取得の試み、データアクセスの確認、アップロードの拒否、および確認された情報漏洩を区別する必要があります。ある経路でのアップロードが阻止されたからといって、他の経路での情報漏洩が発生しなかったことを証明するものではありません。証拠が不完全な場合は、その結果にその不確実性を反映させてください。

モニタリングプログラムの実施方法とは?

まず、重要なワークフローを1つ選び、可視性と対応能力を確認してから、対象範囲を拡大しましょう。効果的なパイロットプロジェクトには、責任の所在が明確な担当者、明確に定義されたタスクの範囲、アクセス可能なテレメトリ、そして本番データに影響を与えずに介入策をテストする方法が必要です。

パイロットを選択し、期待される動作を定義する

事業主が許可されるタスクを定義し、その依存関係を特定し、介入を安全に承認できるパイロットを選択してください。パイロットを、その所有者、実行環境、ID、ツール、データアクセス、および依存関係と結びつけるAIエージェントのインベントリを構築してください。既知の委任エージェントやサードパーティサービスも含めてください。

簡潔な動作仕様書を作成してください。その内容には、許可されるタスク、リソースの範囲、承認済みの宛先、機密性の高い操作、承認要件、および停止条件を含めます。これらは、過去の活動実績のみに基づいて推測するのではなく、ビジネスオーナーおよびアイデンティティチームと合意の上で決定してください。

安全なシナリオを用いて操作を確認する

合成レコードと隔離された宛先を使用して、通常の動作と禁止された動作の両方を検証します。また、正当な異常タスクを含めることで、パイロットが検知だけでなく、運用上の混乱についてもテストできるようにします。

有用な受け入れシナリオとしては、取得したコンテンツ内に隠された指示、範囲外の機密情報の読み取り、承認後の対象の変更、1回の承認の繰り返し利用、エージェント間の委任、コレクターの障害、親ワーカーが停止した後も子ワーカーが処理を継続する場合などが挙げられます。

各シナリオについて、想定される制御、観測された事象の連鎖、アラートの発生タイミング、実行された対応、確認された効果、および残存する死角を記録してください。これらはローカルな受け入れテストであり、実環境における攻撃検知率の推定値ではありません。

明確な責任の所在と変更管理のもとで事業を拡大する

データ収集と実行時統合はプラットフォームチームに、IDマッピングとアクセス権の変更はID管理担当者に、検知と調査はSOCに割り当てます。許可されたタスクの動作については引き続き事業部門責任者が責任を負い、機密性の高いテレメトリデータについてはプライバシーおよびデータ管理担当者が管理します。

手順、ツールの説明、モデル、権限、または委任パスに変更があった場合は、関連する受け入れテストを再実行してください。サポート対象外のフレームワークや遅延しているSaaSログについては、明示的なカバレッジの制限として追跡してください。拡張は、ダッシュボード上に表示されるエージェントの数ではなく、実証された可視性と制御に基づいて行うべきです。

対応範囲と対応状況を監視するための指標

証拠の網羅性、検知の精度、対応の遅延、および確認済みの封じ込め状況を測定すると同時に、収集の漏れや業務への支障を追跡します。ワークフローごとに固有の分母を使用することで、エージェント環境が変化しても改善効果が有意義なものとなります。

メートル 提案された定義 通訳の限界
エビデンスの網羅性 「タスク」「実施主体」「政策決定」および「裏付けのある結果」ごとに分類した影響の大きい施策を精査し、それらを精査済みの影響の大きい施策の総数で割った 調査対象集団がどのように特定されたかを明記すること。調査が不完全だと、見落としが生じる恐れがある。
テストにおける検出範囲 検出された該当するテストシナリオ数を、実行された該当するシナリオ数で割った値 考えられるすべての攻撃ではなく、テスト対象のシナリオセットを測定する
アラートの精度 確認済みの対応が必要なアラートを、アナリストが確認したアラートで割った値 「対応が必要な」という基準を明確にし、未確認のアラートは別途報告する
検知遅延 最初の関連する観測事象からアラートが利用可能になるまでの時間 監査元からの遅延と検知・処理の遅延を区別する
確認済みの封じ込め時間 合意されたインシデントのトリガーから、必要な対策が有効になったことが確認されるまでの時間 子プロセスの実行および下流の強制チェックを含める
監視の中断 収集の欠落や使用不能な識別子マッピングの継続期間および影響範囲 停電中のダッシュボードが静かであることは、安全の証拠にはならない

介入による業務への支障に加え、調査の労力やテレメトリのコストについても追跡してください。可能であれば、所要時間の分布や処理に時間がかかっている事例を報告してください。平均値だけでは、監査記録が介入に間に合わないほど遅れて届くワークフローが見落とされる恐れがあります。

パイロットを評価した上で目標を設定してください。すべてのエージェントのワークフローに通用する、普遍的なアラート閾値、保持期間、または検出時間の目標などはありません。

AIエージェントの監視ツールをどのように評価すればよいか?

AIエージェントの監視ツールについては、アクションの原因を特定できるか、証拠の不足を明らかにできるか、そしてワークフローで求められる対応を確実に実行できるかをテストして評価してください。価値実証では、これらの機能を代表的なワークフローとその実際の運用上の制約と結びつける必要があります。

サプライヤーまたは社内のプラットフォームチームに確認してください:

  • 対象範囲:どのランタイム、MCPサーバー、ワークロード、SaaSエージェントが、サポート対象のテレメトリ情報を公開しているか? 何が把握できないままなのか?
  • ‍帰属:認証情報が共有されている場合、システムはエージェント、操作を開始したユーザー、サービスアカウント、および委任されたワーカーを区別できるか?
  • ‍証拠:調査担当者は、元の記録をエクスポートし、遅延や欠落している事象を特定し、エージェントのトレースを独立した情報源と比較することができるか?
  • ‍実施:実行前にどの制御が行われ、どの制御が後でアラートを発生させ、対象環境においてどのような対応措置が実証されているか?
  • ‍プライバシーと信頼:テレメトリデータはどこで処理されるのか、誰がコンテンツにアクセスできるのか、そして監視対象のランタイムは自身のセキュリティ証拠を改変することができるのか?
  • ‍運用とコスト:想定されるイベント発生件数において、データ取り込み、保存、機密コンテンツの保管、システム連携、および調査にかかるコストはどの程度になるか?

「リアルタイム」、「完全な可視性」、「自動的な封じ込め」といった主張について、測定された配信遅延、サポートされている連携機能、および実際の受領確認情報と照らし合わせて検証します。サードパーティ製のSaaSエージェントの場合、契約上の監査アクセス権やログエクスポートの制限によって、達成可能なカバレッジが決まることがあります。

Vectra AIはどのような場面で活用できるのでしょうか?

Vectra AIは、ネットワークおよびクラウド環境全体におけるIDの不正利用や不審な活動を調査するために、企業全体のコンテキスト情報を提供します。この証拠は、攻撃者がすでに企業の攻撃対象領域を構成している認証情報やサービスを通じて活動している場合に有用です。

Vectra AIは、AIネイティブなセキュリティと可観測性に対するアプローチを、「統合可観測性」、「行動分析型AI」、「攻撃シグナルインテリジェンス」、および「運用制御」を軸に構築しています。同社の「IDベースの攻撃検知および封じ込め」のユースケースでは、ネットワークとクラウドを横断して人間および非人間のIDによる活動を相関分析し、有効な認証情報の不正使用を調査する手法が説明されています。

そのエンタープライズコンテキストを、エージェントの実行時トレース、タスク固有の認証、および接続されたシステム上の制御機能と併せて活用してください。評価の際には、どのエージェントIDが割り当て可能か、どのテレメトリソースがサポートされているか、また、お使いの環境でどのような対応アクションが利用可能かを確認してください。

その適合性を評価するには、代表的なワークフロー、必要なエビデンス、および定義済みの封じ込めテストを用いて、Vectra AIのデモを依頼してください。

注:本ガイドは、公共の安全に関する指針およびインシデントに関する調査結果を基に作成されています。実装フレームワークおよび具体例は、提案される指針です。

よくある質問 (FAQ)

エージェントのモニタリングとLLMのモニタリングは、どのように異なるのでしょうか?

行動のモニタリングによって、prompt injection を食い止めることはできるのか?

エージェントの思考の経緯を知る必要がありますか?

サードパーティ製のSaaSエージェントを監視することはできますか?