最近、大規模な言語モデルで可能なことがカンブリア紀並みに爆発的に増えている。ブログ記事のサムネイルを迅速かつ安価に生成したり、あたかも彼らがあなたのブログ記事に根本的に反対しているかのように振る舞い、批評を提供したり、ブログ記事を他の言語に首尾一貫して翻訳したり(あなたが書いた内容を完全に理解した上で）、毎月、これらのツールの新しい用途が見られる！
ブログ記事を超えた世界、そんな世界が存在するとしても、この新生ツールには膨大な可能性がある。しかし、可能性があるということは、最終的に何ができるかわからないということでもある。
法学修士に質問したいと聞けば、誰でもすぐにOpenAIのChatGPTを使うことを思いつくだろう。これは最も身近で使いやすいツールだ。ChatGPTは、誰でもウェブブラウザを通して質問をすることができ、迅速なレスポンスを返します。これは一般ユーザーにとっては素晴らしいことだが、どの企業にとっても、この使いやすさは3つの深刻な難問を覆い隠している。ChatGPTに送信されたデータは、品質と追跡の目的でOpenAIによって保存される。
OpenAIは、製品の改良を繰り返し、システムの悪用を監視するために、ユーザーの投稿を追跡している。これは、OpenAIによる完全に合理的な振る舞い 、しかし、彼らがこのデータに細心の注意を払っていると信じる理由はありません。さらに、OpenAIはChatGPTに提出されるデータをコントロールすることができないので、彼らが本当に望まない情報をたくさん保存してしまうことになる。例えば、サムスンの従業員は最近、ChatGPTを使ってプロプライエタリ・ソフトウェアをデバッグしたり、会議の議事録を要約したりしていたことが判明した。
2つ目の問題は、ChatGPTがその回答に出典を明記せずに問い合わせに回答することです。ChatGPTは調査結果に基づいて声明を出しますが、残念ながらこれをそのまま受け取る必要があります。この情報は著作権の下にある可能性があり、弁護士から侵害を主張する手紙を受け取るまでわからない。ゲッティイメージズは、LLM画像生成ツールがゲッティイメージズのウォーターマークを含む画像を生成していることを発見した後、著作権侵害でLLM画像生成ツールの作成者を訴えた。これらの画像を使用しているエンドユーザーも責任を負う可能性があると主張することは不合理ではありません。コード生成も懸念される分野であり、現時点では具体的な例はないが、避けられないと思われる。
しかし、ChatGPTの最大の問題は、これらのLLMが "幻覚 "を見る可能性があることです。ChatGPTは、どのようにして答えを導き出すのか透明性がないため、ユーザーは、ChatGPTやその同類が常に絶対的な自信を持って回答するように、答えが真実かどうかを批判的に分析する必要がある。このことは、グーグルの恥ずべき立ち上げから、ChatGPTが学生のエッセイを書いたと偽り、教授が学生全員を落第させたこと、最もひどい例では、弁護士が法廷でのブリーフィングを書くためにChatGPTを使い、ChatGPTが議論をサポートするために6つの完全に偽のソースをでっちあげたことまで、影響を及ぼす可能性がある。グーグルの稚拙なデモにより、グーグルの市場評価は1,000億ドル下落し、大学教授は深刻な信用を失い、数百万ドルの裁判は破棄されるかもしれない......これらは大きな影響を与えるものであり、悲しいことに容易に回避可能なものである。
組織はこのような事実に反応し、承認なしにOpenAIの使用を禁止するポリシーを掲げているが、トラフィックは暗号化されたブラウザを介して動作するため、ソフトウェアを必要とせず、このポリシーの遵守状況を追跡することは困難である。幸いなことに、Vectra AIは、当社の既存の検知ネットワークセンサーを使用して、ネットワーク内のこの活動を確認することができます。Vectra NDRは、ネットワークに出入りするトラフィックだけでなく、ネットワーク内のトラフィックも監視するセンサーを慎重に配置し、組織全体のすべてのネットワーク・トラフィックを監視するように設計されています。この深い分析は、強力なAI主導の検知フレームワークの原動力となり、また、ChatGPT使用状況ダッシュボードに組み込まれた強力なコンプライアンスに関する洞察を可能にします。
このダッシュボードは、Vectra プラットフォームのすべてのお客様に無料でご利用いただけます。このダッシュボードは、OpenAIのサーバーへのDNSリクエストを追跡することで、OpenAIと積極的にやり取りしているホストを表示します。これにより、コンプライアンス担当者は、OpenAIのアカウントを持っている人、または興味を持ったことを登録した人のリストだけでなく、誰がどの程度システムを利用しているのか、積極的に監視することができます。
このダッシュボードは、Vectra の特許取得済みホスト ID アトリビューション・テクノロジーを活用して、これらのユーザーを深く追跡することで、さらに強力になっています。Vectra マシンの IP アドレスが変更されたり、ラップトップが新しいネットワークに参加したりしても、Vectra はこれを同じマシンとして追跡し、ダッシュボードにデバイスが ChatGPT にアクセスする頻度を正確に表示します。このダッシュボードを使用すると、どのホストが ChatGPT を使用しているかだけでなく、それについて誰に連絡すべきかもわかります。
これは、Vectra プラットフォームが組織全体のアクティビティに深い可視性を提供する方法の一例に過ぎず、アクティブなコンプライアンス問題を追跡することで、組織のコンプライアンスにどのように役立つかを示しています。Vectra 、コンプライアンス担当者に、組織内で設定ミスのあるものだけでなく、どのようなセキュリティリスクが積極的に使用されているかについての貴重な洞察を提供することができます！
Vectra プラットフォームについての詳細は、こちらをご覧ください。