.jpeg){kind=logo}
過去20年の大半において、サイバーセキュリティは「悪意ある攻撃者を排除する」という問題として捉えられてきました。ファイアウォール、エンドポイント、メールセキュリティ、ID管理などはすべて、ある単純な考えに基づいて設計されています。すなわち、「侵入を防げば、リスクを管理できる」というものです。インシデントが発生した際、私たちは外部に目を向けました。「誰が侵入したのか？」「どうやって侵入したのか？」と。しかし、内部者による脅威は、常にこの捉え方に異議を唱えてきました。
業界関係者は、最も重大なセキュリティ上の失敗のいくつかは、そもそも侵害から始まるわけではないと指摘しています。それらは、もともと信頼されていたアクセス権から始まるのです。権限を持つ従業員。認証情報を持つシステム。実行が許可されていたプロセス。
これまで、私たちはインサイダーリスクを「人間」という観点から捉えてきました。悪意のある従業員。不注意によるミス。セキュリティ侵害を受けたユーザー。こうしたシナリオは今も存在し、依然として重要な問題ではありますが、もはや今日の企業の運営実態のすべてを説明するものではありません。
AIが組織の運営――意思決定の仕方、業務の自動化、システム間の連携など――に深く浸透するにつれ、新たな形態の内部リスクが出現しつつあります。それは、意図や感情、あるいは過失によって引き起こされるものではありません。継続的かつ自律的に、機械並みのスピードで動作するリスクなのです。
これは、私が「人工的なインサイダー」と呼んでいるものの台頭です。
AI企業における「インサイダー」の意味を再考する
「人工的なインサイダー」という言葉を耳にすると、抽象的に聞こえるかもしれません。しかし、そうではありません。
「人工インサイダー」とは、正当な認証情報とアクセス権限を持ち、自律的に行動できる、人間以外の存在またはAI駆動型のエンティティを指します。こうしたエンティティは、すでにほとんどの組織に存在しています。これには、ユーザーやチームに代わって行動するAIエージェント、アクセスや意思決定を自動化するサービスアカウントやAPI、クラウドワークロードやSaaSとの連携、そして業務の迅速化を図るために従業員が独自に構築するカスタムAIエージェントなどが含まれます。
これらの組織がインサイダーとされる理由は、悪意があるからではありません。それは信頼があるからです。
- 彼らは正当な方法で認証を行います。
- 彼らは、アクセスが許可されているシステムにアクセスします。
- 彼らは、移動が許可されている場所にデータを移動させます。
セキュリティの観点から見れば、まさにこここそが、インサイダーリスクが常に存在してきた場所、つまり「信頼境界」の内側なのです。変化したのは、その規模、速度、そして自律性です。
攻撃者がシステムに侵入するのではなく、ログインして周囲に溶け込む場合
ここ数年の攻撃者の行動における最も重要な変化の一つは、ブルートフォース攻撃から信頼関係の悪用へと移行した点である。現代の攻撃者は、侵入において最も困難な部分は多くの場合、初期アクセスを獲得することにあると理解している。人間によるものであれ、そうでないものであれ、一度認証情報を入手すれば、環境そのものが彼らのために多くの作業を行ってくれるのだ。
AIはこの現実を加速させている。
一度侵入に成功すると、攻撃者は自動化ツールやAI駆動型のツールを展開し、内部関係者として活動することができます。こうしたエージェントは、急ぐ必要もなければ、目立つ必要もありません。彼らは忍耐強く環境を調査し、IDや権限を列挙し、システム間を横方向に移動し、観察した内容に基づいて対応を調整することができます。個々の行動は、それ単体では正当なものに見えることがよくあります。 クエリ。API呼び出し。承認されたサービスへの接続。イベントを個別に分析しがちな従来のセキュリティツールでは、手遅れになるまで、こうした広範なパターンを認識することが困難です。これは新しい種類の攻撃ではありません。よく知られた攻撃手法ですが、より迅速に、より静かに、そしてはるかに抵抗なく実行されるようになっているのです。
事実上、攻撃者は内部関係者のように振る舞うことを学びつつあり、かつて人間が手作業で行っていた作業を自動化によって行っている。
私たち自身が招く内部リスク
人工知能によるインサイダーは、すべて攻撃者によって導入されるわけではありません。その多くは、実際の問題を解決しようとする従業員によって社内で作成されています。さまざまな組織において、各チームは分析、レポート作成、顧客エンゲージメント、業務ワークフロー、意思決定支援を自動化するためのAIエージェントを開発しています。ビジネスにおいてスピードと効率性が求められるため、これらのエージェントを社内システム、API、データソースに接続しているのです。
ほとんどの場合、こうした取り組みは善意に基づいています。それは組織の最前線で行われるイノベーションであり、人々が新しいツールを活用して業務をより効率的に行おうとするものです。 しかし、リスクの観点から見ると、これらのエージェントは、アクセス権限を与えられ、自律的に行動することが許可された瞬間に「内部関係者」となります。それらは単なるアプリケーションとして存在するだけではありません。行動し、意思決定を行い、ワークフローを起動し、環境間でデータを移動させます。そして、もしそのうちの1つが誤って設定されたり、ガバナンスが不十分だったり、侵害されたりした場合、誰もそのリスクを意図していなかったにもかかわらず、人間の内部関係者と同等、あるいはそれ以上のリスクを生み出す可能性があります。
これはAI時代の最も困難な側面の一つです。なぜなら、リスクの発生には悪意は必要ないからです。必要なのは、私たちの監視の及ばないところで稼働する、信頼された自動化システムだけなのです。
従来のインサイダー脅威モデルがもはや通用しなくなった理由
これまで私たちがインサイダー・リスクについて抱いてきたいくつかの前提は、もはや当てはまらないものとなっています。
まず、このモデルはインサイダーが人間であることを前提としています。人間は人間のスピードで行動します。躊躇したり、タスクを切り替えたりします。その行動は一貫性に欠け、しばしば予測可能です。一方、AIによるインサイダーはこのような行動をとらない。一貫して、継続的に、かつシステムを横断して実行を行います。
第二に、この考え方は、リスクが意図や過失と結びついていることを前提としています。しかし、人工的なインサイダーには、そのどちらもありません。彼らには権限、指示、そして運用上の文脈があります。リスクが生じるのは、これらの要素が現実と合致しなくなったときであり、その変化のスピードは、多くの場合、統制措置が適応できる速度を上回ります。
第三に、この考え方は防御側に時間的余裕があることを前提としています。AIが導入された環境では、時間の流れが加速します。かつては数日や数週間かけて展開されていた事態が、今では数分で起こり得るのです。人間主導の検知・対応プロセスは、このようなスピードに対応できるようには設計されていませんでした。
その結果、防御側が失敗しているわけではない。リスクの性質そのものが変化したのだ。
経営幹部レベルにおいて、なぜこれが重要なのか
この変化は、単なる技術的なものにとどまりません。組織的かつ戦略的なものです。
AIが企業全体に導入されているのは、経営陣が生産性、事業規模の拡大、競争力の向上をAIに期待し、信頼を寄せているからです。その信頼は不可欠です。しかし、継続的な可視化と検証を伴わない信頼は、システムが自律的に動作する際にリスクへと変わります。取締役会や規制当局は、これまで以上に厳しい質問を投げかけています。「現時点でセキュリティは確保されているのか？」「どこにリスクが存在するのか？」「投資してきた統制措置は実際に機能しているのか？」
非人間的な主体やAIエージェントが、従来の管理の範囲外で絶えず行動を変えているような環境では、こうした質問に答えることは困難です。また、関与する主体が新しいものであっても、説明責任の在り方は変わっていません。AI駆動型システムが情報漏洩、コンプライアンス違反、あるいは業務の混乱を引き起こした場合でも、その責任は依然として経営陣にあるのです。
AI時代のCISOが直面する現実
CISOたちは、この役職がこれまで直面してきた中で最も複雑な局面の一つを乗り切ろうとしている。
これらは、AIの導入を促進し、イノベーションを支援し、摩擦を軽減し、セキュリティとコンプライアンスを維持することが期待されています。その一方で、人間以外のIDが人間を上回り、自動化の進展が人間の監視の速度を上回る環境を守り抜かなければなりません。これは、ツールやチームの失敗ではありません。これは、従来のセキュリティ対策の実践方法と、現代の企業が現在行っている運営方法との間に生じているミスマッチなのです。課題はもはや、単に悪意のある行為を防ぐことだけではありません。情報に基づいた意思決定を行うために、行動を迅速に把握することにあるのです。
なぜ予防だけでは不十分なのか
ガバナンス、ポリシー、および予防的な制御は依然として不可欠です。しかし、それだけでは「人工的な内部関係者」という問題を解決することはできません。これらのエンティティは、アクセスが許可された後に活動します。一度認証されると、その行動は正当なものとして扱われます。 可視性はシステムごとに断片化されており、リスクはドメイン間の接続部分に潜んでいます。これは、インサイダー脅威において常に存在してきたのと同じ「死角」であり、現在では自動化、規模の拡大、スピードの加速によってさらに増幅されています。あらゆるリスクのある行動を阻止しようとすれば、ビジネスの進行は著しく遅くなってしまいます。それは現実的な解決策ではありません。その代わりに、静的な信頼ではなく、行動の継続的な理解に基づいてレジリエンスを構築する必要があります。
アイデンティティから行動へ
組織が成すべき最も重要な転換は、「誰が行動を起こしたか」を問うことから、「行動が時間の経過とともにどのように展開しているか」を理解することへと移行することです。
セキュリティ責任者は、どの「人間」および「非人間」のIDがアクティブであるか、それらがシステム全体でどのように振る舞っているか、その活動がどの程度の速さで進行しているか、そしてそれが続いた場合にどのような影響が生じる可能性があるかを把握できなければなりません。これらは運用上の課題です。サイロ化されたテレメトリデータや、特定の時点での評価、あるいは四半期ごとのレビューだけでは、これらの疑問に答えることはできません。
現代の企業のスピードと相互連携性に見合った可視性が求められています。
真のリスクはAIそのものではなく、機械のスピードに追随する盲目的な信頼にある
AIは、組織が回避できるようなものではありません。それは現代の企業の運営モデルとなりつつあります。私たちの環境内には、すでに「人工的な内部関係者」が存在しています。意図的に導入されたものもあれば、密かに生成されたものもあります。中には、すでに攻撃者のために活動しているものもあるかもしれません。
指導者が向き合わなければならない問題は、こうした内部関係者が存在するかどうかではなく、彼らの行動を十分に把握・理解し、適切に管理できるかどうか、つまり責任を持って彼らを信頼できるかどうかである。
AI時代においても、内部脅威は消え去ったわけではありません。それは進化し、自動化され、今や機械並みのスピードで動き回っています。この現実を認識し、信頼とリスクに対する考え方を適応させていくことは、今後リーダーが直面する最も重要な課題の一つです。
マーク・ヴォイタシアックのその他の投稿は、 こちら Vectra AIのブログでご覧いただけます。