AIが企業全体に組み込まれるにつれ、セキュリティに関する議論はモデルや機能、新たな技術的リスクに焦点が当てられがちだ。しかし、これによって生じる設計上の問題――確率論的に機械の速度で動作するシステムが生成するシグナルを、人間がどのように理解し、信頼し、行動に移すことが期待されているのか――については、はるかに議論が不足している。
サイバーセキュリティ分野でUXに携わる私たちにとって、この問題は決して新しいものではない。
10年以上にわたり、Vectra 一貫して一つの課題Vectra 。それは、複雑な攻撃者の行動を、人間にとって理解しやすく、実行可能で、信頼できる形で可視化する方法です。AIが企業の主流関心事となるずっと前から、Vectra 不透明なシステム、不確かなシグナル、そしてプレッシャー下での重大な意思決定を支援する必要性にVectra
その経験は、AI自体が脅威の領域に足を踏み入れるにつれて、特に重要性を増す。
ブラックボックスAIの出力を理解可能な攻撃者の行動へ
現代のネットワークは膨大な量の信号を生成し、人間が単独で容易に分析することは困難である。その上に重ねられたツールはしばしば課題をさらに複雑化し、スコアやアラート、孤立した検知結果を生み出すが、これらはアナリストが確信を持って行動するために必要な文脈を欠いている。
時が経つにつれ、効果的なセキュリティUXは生の出力結果を提示することから、動作の可読性を高める方向へと移行してきた：
- 活動が時間とともに展開する様子
- どのアイデンティティとシステムが関与しているのか
- どのような一連の行動がリスクを生み出すのか
- なぜ今それが重要なのか、単に起きたという事実ではなく
目的は決して完全な確実性ではなかった。曖昧さが存在する中で人間の判断を支えることにある。そのためには、確率的でしばしば雑然とした情報を、人々が評価し行動に移せる首尾一貫した物語へと変換する必要がある。
重要なのは、こうした入力データがほとんどの場合、整然とした構造を持っていない点だ。スプレッドシートやフォームのような形ではなく、断片として届く。それらは、相互に関連づけられ、文脈が与えられ、解釈されて初めて意味を成す。
UXはその翻訳を行う層である。
AI攻撃者は速度を変えるが、行動は変えない
AI駆動型攻撃者の登場は、攻撃の規模とペースを意味ある形で変容させる。自律システムは攻撃者が継続的に活動し、迅速に適応し、人間の能力をはるかに超える速度で行動することを可能にする。
彼らが決して行わないのは、全く新しい種類の悪意ある行動を発明することだ。
AI攻撃者は見た目は異なるが、行動は同じである。彼らは依然として：
- 環境の脆弱性を調査する
- 不正利用の身元とアクセス
- システムを横方向に移動する
- 権限をエスカレートする
- 持続性と影響力を追求する
これらは人間によって設計され、人間のために構築されたインフラストラクチャ——IDプロバイダー、アプリケーション、ネットワーク、ワークフロー——の中で行われる。そのペースは加速する一方、根底にある行動様式は依然として認識可能なままである。
これが行動中心設計が重要である理由だ。静的なルールや脆い仮定に基づいて構築されたインターフェースは、ルールが進化する速度よりもアクターが適応する速度が速い場合に機能不全に陥る。行動は実装ではなく意図を反映するため、安定した抽象化として機能し続ける。
UXを翻訳レイヤーとして
検知と分析が機械の速度でますます行われる中、何が起きているかを理解し、どう対応するかを判断する責任は依然として人間が負っている。自動化システムと人間の判断力の間の隔たりは、ますます広がり続けている。
セキュリティUXは、そのギャップを埋めるために存在する。
その役割は不確実性を排除したり、意思決定を人間から切り離して自動化することではなく、複雑さを理解可能にすることにある：
- 確率的推論を過度に単純化せずに理解しやすくする
- ユーザーをアラートで圧倒する代わりに、パターンを浮かび上がらせる
- 活動が重要である理由を説明する背景を提供すること
- 単なる反応ではなく、調査と推論を支援する
この翻訳層は、システムが自律性を増すにつれて、重要性が低下するどころか、むしろ高まる。
なぜ今これが重要なのか
組織がAIを活用した企業のセキュリティ強化に取り組む中、多くの組織がより高度なモデルだけでは問題が解決しないことに気づき始めている。場合によっては、技術の高度化が透明性を損ない、信頼を蝕むこともある。
Vectra のUXチームが長年にわたり学んだ教訓は、この瞬間を理解する上で有用な視点を提供する。AIのためのデザインには、以下の事実を受け入れることが求められる：
- 出力は非構造化かつ確率的となる
- システムは継続的に適応する
- 動作は機械の速度で行われる
- 人間の判断が最終的な権威であり続ける
この文脈において、行動は機械と人間の間の最も信頼できるインターフェースとなる。
判断のための設計
AI企業におけるセキュリティの未来は、検知能力のみによって決まるものではない。自動化システムが明らかにした事象を、人間がどれだけ効果的に理解し、それに基づいて行動できるかにかかっている。
UXとは、その理解が形となる場所である。
AIが攻撃においてより迅速かつ適応性の高い力となるにつれ、その挙動を明確かつ一貫性を持って信頼性をもって可視化する能力は、我々が持つ最も重要な防御手段の一つとなるかもしれない。