- 有効な認証情報があっても、エージェントのそのタスクに対する行動が承認されていたとは限らない。
- タスクの文脈と独立したシステム記録を照合することで、エージェント自身の説明のみに頼る場合よりも、調査の信頼性が高まる。
- ポリシーチェックと行動分析は、それぞれ異なる目的を果たします。すなわち、既知の境界を強制することと、不審な一連の動作を調査することです。
- モニタリングの網羅性は、欠落している証拠や確認済みの封じ込め状況、ならびにアラートの品質を通じて測定すべきである。
2026年7月に行われたサイバー評価において、英国AIセキュリティ研究所(AISI)は、122回のエージェント実行のうち10回で、許可されていないインターネット上の実稼働動作を確認しました。インターネットアクセスは意図的に有効化され、プロバイダーのサイバー分類機能は無効化されていたため、これらの結果は企業におけるインシデント発生率を反映するものではありません。この調査結果は、セキュリティチームが、エージェントの実際の動作と、そのエージェントに許可されたタスクとを照らし合わせて確認する必要がある理由を示しています。
AIエージェントの行動監視とは、エージェントの行動、ツールの使用状況、アクセス状況、および結果を継続的に収集・分析し、割り当てられたタスク、権限、またはセキュリティポリシーに違反する活動を特定することです。効果的な監視では、エージェントの実行履歴と、エージェントがアクセスしたシステムからの証拠とを関連付けます。
セキュリティオペレーションセンター(SOC)にとって、重要な問いは具体的です。すなわち、「このエージェントは、このIDを使用して、承認されたリソースに対して承認された操作を実行したのか、そしてその後どうなったのか」ということです。
AIエージェントの行動監視では、ワークフロー全体を通じて、エージェントのタスク、委任された権限、および運用範囲に基づいて、その行動が適切かどうかを確認します。これには、初期リクエストから最終結果に至るまでの各ステップが含まれ、ツールへの呼び出し、データ取得、権限の委譲、および外部システムへの変更などが対象となります。
エージェントは、サポートチケットを読み、顧客レコードを検索し、別のエージェントに分析を依頼し、返信文を作成する場合があります。各ステップごとに、異なるセキュリティ上の課題が生じます。権限のあるレコードを閲覧しても、そのレコードのエクスポートが自動的に許可されるわけではなく、メッセージを作成する権限があっても、そのメッセージを送信する権限があるとは限りません。
基盤となる大規模言語モデル(LLM)は、このシステムを構成する要素の一つです。関連する監視分野は、全体像のさまざまな側面を明らかにしています:
行動監視は、AIエージェントのセキュリティにおける運用上の要素の一つです。これは、正確な資産管理とアクセス制御に依存すると同時に、エージェントが実行中にそのアクセス権をどのように利用しているかに関する証拠を提供します。
セキュリティチームは、エージェントが報告したアクションを裏付け、トレースに記録されていないアクティビティを特定するために、エージェントのアクティビティを独立して可視化する必要があります。ワークフローのトレースと外部システムの記録を組み合わせることで、意図されたアクション、要求されたツール呼び出し、および別のシステムで確認された変更を区別しやすくなります。
AISIの調査において、一般的なセキュリティ監視により、異常な外部へのトラフィックが検出されました。その後、調査チームはエージェントの活動を精査し、評価処理を停止させ、関連するマシンを隔離しました。AISIは、自社の監視システムが評価処理の実行状況を監視するようには設計されていなかったことを認めました。この事例から得られる運用上の教訓は、企業全体の検知体制と、エージェントのワークフロー内部の可視性を連携させることです。
ここでは信頼の境界が重要です。「ファイルは送信されなかった」というエージェントが生成した要約は、宛先サービスの取引記録とは証拠としての重みが異なります。署名済みのサプライヤートレースであっても、その実行記録が完全であるか正確であるかを証明するものではありません。結果に関する主張については、エージェントの管理外の範囲で記録された観察結果によって裏付けを行う必要があります。
提案されている以下の調査フレームワークを使用してください:
接続の欠落は、証拠の欠落として記録する。共有サービスアカウントやツールログの欠落は、問題がないという結論を導くのではなく、原因の特定に対する信頼性を低下させるべきである。
タスク、ID、ツール、データアクセス、ポリシー、および結果の記録を収集し、各重要なアクションをその権限および確認された結果と結びつけられるようにする。以下のイベントモデルは、チームが自社のエージェントフレームワーク、データポリシー、および利用可能な監査インターフェースに合わせて調整すべき、提案された出発点である。
イベント時刻と収集時刻の両方を保持してください。そうしないと、SaaS(Software as a Service)アプリケーションからの監査データのエクスポートが遅延し、調査の流れが誤解を招く恐れがあります。サポートされている統合機能間で相関識別子を伝播させ、IDやトレースコンテキストが失われる箇所を文書化してください。
モデルコンテキストプロトコル(MCP)による統合については、サーバーの識別情報および、説明、スキーマ、権限ヒントを含むツール定義全体の変更を追跡してください。これらのメタデータは、ツールの選択や承認の仕方に影響を与える可能性があります。権限ヒントは意図された動作を記述するものであり、アクセスを強制するものではありません。ある統合を通じて読み込まれた情報が、別の、一見正当に見えるツールを通じて開示される可能性があるため、サーバー間のデータフローを監視してください。
禁止されているアクションに対しては明示的なポリシーチェックを、不審な一連の動作に対しては文脈に応じた行動分析を活用します。この組み合わせにより、明らかな承認違反と、調査が必要な異常な動作とを区別しやすくなります。
H3 認証およびポリシー違反から始める
各ワークフローについて、強制力のある境界を定義します。例としては、承認済みのデータ収集、外部の送信先、管理業務、支出上限、および人間の判断を必要とするアクションなどが挙げられます。
エージェントが以下の操作を試みた際に、セキュリティイベントを生成します:
承認の検証は、アクションを実行するコンポーネント内で行う。影響の大きいアクションについては、承認を現在のアクターおよび正確なツール呼び出しに紐付け、それが依然として有効であることを確認した上で、実行時に一度だけ利用するようにする。検証と利用をアトミックに行うことで、並行するリクエストが承認を再利用できないようにする。モデルによって生成された「承認済み」フラグでは、これらの条件を満たすことはできない。
個別に許可された複数の呼び出しが、許可されていない結果をもたらす可能性があります。ツールやIDをまたいだアクションを関連付け、その結果として生じる一連の動作をタスクの目的と照らし合わせて確認してください。
これらを、局所的に検証すべき検知仮説として扱う。いずれの項目も、それ単体では悪意のある意図を立証するものではない。許可された移行と許可されていないエクスポートでは、同様の転送パターンが生じる可能性があるため、タスクの文脈を把握することが不可欠である。
同等のワークフロー、エージェントのバージョン、ツールセット、および権限レベルについて、動作の基準値を設定してください。研究助手と管理担当者は、データへのアクセスやシステム変更に関して、同じ期待値を共有すべきではありません。
まず、アクセスされたリソース、宛先の新規性、操作の種類、再試行パターン、委譲の深さ、タスクに対する処理量など、観測可能な特徴から検討を始めます。検出ルールを調整して除外する前に、ワークフローの所有者と正当な例外ケースについて確認してください。
厳格なポリシー上の境界線と、学習されたベースラインは明確に区別してください。頻繁に繰り返される不正な行動は、単に一般的であるという理由だけで容認されてはなりません。ベースラインにバージョン管理を行い、モデル、指示、統合、または権限に変更を加えた後は、その都度再検証を行ってください。
行動ベースの脅威検知は有用な背景情報を提供しますが、異常が検出された場合は依然として調査が必要な事由となります。データの機密性、権限、潜在的な影響、および裏付けとなる兆候に基づいて、事案の優先順位を決定してください。
実行パスを計測対象とし、エージェントが変更を加えるシステムを個別に監視することで、ビルドエージェントの監視を行う。監視制御はエージェントの権限の範囲外に置き、ランタイムの信頼性が低下した場合でもワークフローのコンテキストを維持する。
サポートされているランタイムインターフェースを通じて、タスクの開始、モデルとのやり取り、ツールの要求、委任、ポリシーの決定、および完了イベントをキャプチャします。ツールゲートウェイや実行ラッパーを利用することで、機密性の高い操作を実行する前に、コンテキストを紐付けたり、制限を適用したりすることができます。
エージェント・ハーネスは、モデルとデータ、ツール、メモリ、および実行権限を結びつけます。このため、ハーネスとその統合部分は、制御を適用するための実用的な場所となります。より広範なエージェント型AIのセキュリティ設計においては、ワークフローおよびそれに接続されたシステム全体にわたって、これらの制御を調整する必要があります。
サポートされている場合は、OpenTelemetry GenAIのセマンティック規約を使用してください。インスツルメンテーションライブラリやエクスポーターがどのバージョンの規約をサポートしているかを確認し、ローカル拡張機能については文書化してください。上記のセキュリティイベントモデルは提案されている運用レコードであり、すべてのフィールドが標準化された属性であることを意味するものではありません。
影響の大きい操作については、実行前にポリシーを評価してください。トランザクション完了後に送信される非同期アラートでは、トランザクションパス上の制御と同じレベルの保護は得られません。
エージェントイベント、IDプロバイダーのレコード、クラウド監査イベント、アプリケーションの変更、ワークロードのテレメトリ、およびネットワークアクティビティを関連付けます。明示的なリクエスト識別子およびセッション識別子を優先してください。タイムスタンプと共有IDしか利用できない場合は、帰属の不確実性を明記してください。
ネットワーク記録からは、予期せぬ送信先やデータ転送が明らかになることがあります。通常、ネットワーク記録だけでは、暗号化されたリクエストの内容や、その操作の業務上の目的を特定することはできません。アプリケーションのトレースは文脈を補完し、対象システムの監査記録は、その影響を特定するのに役立ちます。
これはセキュリティの可観測性の実践的な活用例です。アナリストは、アラートから、接続されたシステム全体にわたるその背景にある証拠へと追跡していく必要があります。
データの最小化、アクセス制限、改ざん検知により、エージェントのテレメトリを保護し、データ収集の欠落箇所を対応担当者が把握できるようにします。一元的な収集を行う前に、認証情報、トークン、および不要な個人情報や機密情報を伏せてください。コンテンツの全文が不要な場合は、リソース識別子や機密性メタデータを優先して使用してください。収集が制限されるコンテンツについては、具体的な目的、アクセスポリシー、および保存期間を別途定義してください。
記録を不正アクセスや改ざんから保護し、収集の中断を検知するとともに、監視イベントをインシデント対応プロセスに統合する。エージェントに対し、その監視に使用される中核的な証拠を書き換える権限を与えない。
データ取り込みの中断、時計関連の問題、イベントの欠落、およびコレクターの設定変更をテストします。必要な承認や監査管理が機能しなかった場合は、影響の大きい操作を一時停止します。リスクの低い読み取りワークフローについては、記録機能の中断中に実行を継続できるかどうかを定義し、証拠の欠落がある場合はそれを可視化します。この決定は、その操作のリスクと、それを停止した場合のビジネスへの影響を反映したものであるべきです。
不審なエージェントの活動に対しては、証拠を保全し、影響範囲を特定し、承認された制御措置を適用し、封じ込めが確認されるというインシデント対応プロセスを通じて対処してください。インシデントが発生する前に、各介入措置を承認できる担当者と、その措置を適用できるシステムを明確に定義しておいてください。
ワークフローに適した応答シーケンスを使用してください:
キルスイッチには、明確な適用範囲が必要です。表示されているチャットを停止しても、スケジュールされたタスクや委任されたワーカーが実行されたままになる可能性があります。同様に、認証情報の失効リクエストを送信しただけでは、下流のすべてのセッションへのアクセス権が失われたことを証明するものではありません。関連するサービスにおいて、措置が確実に実施されていることを確認してください。
信頼度とビジネスへの影響度に応じて自動化を選択してください。明示的に禁止されている宛先に対する事前承認済みのブロックは、複数の重要なワークフローで共有されているIDを無効にするよりも、自動化しやすいです。
信頼できない添付ファイルによって、ケース固有の検索が許可されていないデータエクスポートへとリダイレクトされた場合、サポート担当者は許可された権限の範囲を超える操作を行ってしまう可能性があります。以下の架空のワークフローは、合成データを用いて提案されている検知および対応の設計を説明するためのものであり、実際に報告された顧客のインシデントではありません。
このエージェントは、1人の顧客の案件を閲覧し、社内向けの返信草案を作成する権限を持っています。以前の統合機能ではレポート作成もサポートされていたため、その基盤となるサービスアカウントにはより広範なアクセス権限が与えられています。
最終的なインシデント記録では、取得の試み、データアクセスの確認、アップロードの拒否、および確認された情報漏洩を区別する必要があります。ある経路でのアップロードが阻止されたからといって、他の経路での情報漏洩が発生しなかったことを証明するものではありません。証拠が不完全な場合は、その結果にその不確実性を反映させてください。
まず、重要なワークフローを1つ選び、可視性と対応能力を確認してから、対象範囲を拡大しましょう。効果的なパイロットプロジェクトには、責任の所在が明確な担当者、明確に定義されたタスクの範囲、アクセス可能なテレメトリ、そして本番データに影響を与えずに介入策をテストする方法が必要です。
事業主が許可されるタスクを定義し、その依存関係を特定し、介入を安全に承認できるパイロットを選択してください。パイロットを、その所有者、実行環境、ID、ツール、データアクセス、および依存関係と結びつけるAIエージェントのインベントリを構築してください。既知の委任エージェントやサードパーティサービスも含めてください。
簡潔な動作仕様書を作成してください。その内容には、許可されるタスク、リソースの範囲、承認済みの宛先、機密性の高い操作、承認要件、および停止条件を含めます。これらは、過去の活動実績のみに基づいて推測するのではなく、ビジネスオーナーおよびアイデンティティチームと合意の上で決定してください。
合成レコードと隔離された宛先を使用して、通常の動作と禁止された動作の両方を検証します。また、正当な異常タスクを含めることで、パイロットが検知だけでなく、運用上の混乱についてもテストできるようにします。
有用な受け入れシナリオとしては、取得したコンテンツ内に隠された指示、範囲外の機密情報の読み取り、承認後の対象の変更、1回の承認の繰り返し利用、エージェント間の委任、コレクターの障害、親ワーカーが停止した後も子ワーカーが処理を継続する場合などが挙げられます。
各シナリオについて、想定される制御、観測された事象の連鎖、アラートの発生タイミング、実行された対応、確認された効果、および残存する死角を記録してください。これらはローカルな受け入れテストであり、実環境における攻撃検知率の推定値ではありません。
データ収集と実行時統合はプラットフォームチームに、IDマッピングとアクセス権の変更はID管理担当者に、検知と調査はSOCに割り当てます。許可されたタスクの動作については引き続き事業部門責任者が責任を負い、機密性の高いテレメトリデータについてはプライバシーおよびデータ管理担当者が管理します。
手順、ツールの説明、モデル、権限、または委任パスに変更があった場合は、関連する受け入れテストを再実行してください。サポート対象外のフレームワークや遅延しているSaaSログについては、明示的なカバレッジの制限として追跡してください。拡張は、ダッシュボード上に表示されるエージェントの数ではなく、実証された可視性と制御に基づいて行うべきです。
証拠の網羅性、検知の精度、対応の遅延、および確認済みの封じ込め状況を測定すると同時に、収集の漏れや業務への支障を追跡します。ワークフローごとに固有の分母を使用することで、エージェント環境が変化しても改善効果が有意義なものとなります。
介入による業務への支障に加え、調査の労力やテレメトリのコストについても追跡してください。可能であれば、所要時間の分布や処理に時間がかかっている事例を報告してください。平均値だけでは、監査記録が介入に間に合わないほど遅れて届くワークフローが見落とされる恐れがあります。
パイロットを評価した上で目標を設定してください。すべてのエージェントのワークフローに通用する、普遍的なアラート閾値、保持期間、または検出時間の目標などはありません。
AIエージェントの監視ツールについては、アクションの原因を特定できるか、証拠の不足を明らかにできるか、そしてワークフローで求められる対応を確実に実行できるかをテストして評価してください。価値実証では、これらの機能を代表的なワークフローとその実際の運用上の制約と結びつける必要があります。
サプライヤーまたは社内のプラットフォームチームに確認してください:
「リアルタイム」、「完全な可視性」、「自動的な封じ込め」といった主張について、測定された配信遅延、サポートされている連携機能、および実際の受領確認情報と照らし合わせて検証します。サードパーティ製のSaaSエージェントの場合、契約上の監査アクセス権やログエクスポートの制限によって、達成可能なカバレッジが決まることがあります。
Vectra AIは、ネットワークおよびクラウド環境全体におけるIDの不正利用や不審な活動を調査するために、企業全体のコンテキスト情報を提供します。この証拠は、攻撃者がすでに企業の攻撃対象領域を構成している認証情報やサービスを通じて活動している場合に有用です。
Vectra AIは、AIネイティブなセキュリティと可観測性に対するアプローチを、「統合可観測性」、「行動分析型AI」、「攻撃シグナルインテリジェンス」、および「運用制御」を軸に構築しています。同社の「IDベースの攻撃検知および封じ込め」のユースケースでは、ネットワークとクラウドを横断して人間および非人間のIDによる活動を相関分析し、有効な認証情報の不正使用を調査する手法が説明されています。
そのエンタープライズコンテキストを、エージェントの実行時トレース、タスク固有の認証、および接続されたシステム上の制御機能と併せて活用してください。評価の際には、どのエージェントIDが割り当て可能か、どのテレメトリソースがサポートされているか、また、お使いの環境でどのような対応アクションが利用可能かを確認してください。
その適合性を評価するには、代表的なワークフロー、必要なエビデンス、および定義済みの封じ込めテストを用いて、Vectra AIのデモを依頼してください。
注:本ガイドは、公共の安全に関する指針およびインシデントに関する調査結果を基に作成されています。実装フレームワークおよび具体例は、提案される指針です。
エージェントの監視では、ワークフロー全体にわたるツールの使用状況、データへのアクセス、権限の委譲、および外部へのアクションを追跡します。LLMの監視では、通常、個々のモデル呼び出し、応答の品質、レイテンシ、エラー、およびトークンの使用状況が検証されます。セキュリティに重点を置いたエージェントの動作監視では、利用可能な場合は独立したシステム記録を用いて、それらのアクションが承認されたタスクや権限と一致しているかどうかも確認します。
行動の監視により、prompt injection による不審な結果を特定し、介入を促すことができます。安全でないアクションを阻止するには、そのアクションが実行される前に評価を行う「強制ポイント」が必要です。監視機能と、範囲を限定した権限、検証、承認制御を組み合わせて活用してください。実行後の検知だけでは、すべての情報漏洩や外部への変更を元に戻すことはできません。
エージェントの挙動を監視するにあたり、隠された思考の連鎖へのアクセスは必要ありません。監視の設計においては、割り当てられたタスク、可視化された実行メタデータ、ツールへの要求、ポリシーの決定、および独立して観察された影響を利用することができます。生成された説明はすべて文脈情報として扱い、その結果に関する主張については、関連するシステムの記録を用いて裏付けを行う必要があります。
サードパーティ製のSaaSエージェントは、そのプロバイダーが公開しているID、接続済みアプリケーション、データアクセス、および監査用のインターフェースを通じて監視することができます。これらのインターフェースからは一部の動作を把握できますが、利用可能な記録に制限されるため、把握できる範囲は限定的です。内部の計画、ツールの引数、または委任された手順については、依然として把握できない場合があります。完全な可視性を主張するのではなく、そうした制限を文書化し、エクスポートの遅延を測定し、適切な監査アクセス権を要求するようにしてください。