生成 AI は企業のセキュリティ環境をどう変えるか？

※この投稿は米国時間 2024 年 2 月 13 日に、Google Cloud blog に投稿されたものの抄訳です。

生成 AI は生産性向上における次なるフロンティアとして謳われています。McKinsey のアナリストは、生成 AI によってタスクの自動化を 10 年分も加速できると考えています。

生成 AI がシステム、ネットワーク、インフラストラクチャ、組織の保護方法に好影響を与える可能性は過小評価できません。生成 AI により、組織は脅威アラートをより迅速に特定して対応しやすくなり、セキュリティ チームはさらなる防御強化に専念できるようになります。同時に、時間の節約や生産性の向上など、幅広いビジネス価値がもたらされます。

Broadcom の Symantec エンタープライズ部門のエンジニアリング担当バイス プレジデント兼 CTO を務める Adam Bromwich 氏は、生成 AI は組織がこれまで目にしてきたなかで最大級のセキュリティ トレンドになる可能性があると確信しています。

Bromwich 氏は次のように述べています。「セキュリティ業界は進化し続けています。それは動く標的のようなものであり、この分野で働くことをやりがいのあるものにしています。常に進化するアクティブな敵対者がいるだけでなく、テクノロジーも根本的に変わりつつあります。最新トレンドである生成 AI により、企業は自社のシステムとデータを保護する方法を完全に再構築することになるはずです。」

Bromwich 氏は、2019 年に Symantec が Broadcom に買収される以前から、 20 年以上もエンタープライズ セキュリティに取り組んできたため、この領域に精通しています。同氏は最近、Google Cloud のクラウド セキュリティ担当バイス プレジデントである Jeff Reed と対談し、エンタープライズ セキュリティの性質の変化について話し合い、生成 AI がこの分野で広範囲にわたって提供するビジネス上のメリットについて探りました。

Jeff Reed: 今後 3 ～ 5 年で、お客様はエンタープライズ セキュリティに何を求めるようになるとお考えですか？

Bromwich 氏: 企業や業界を問わず、CEO は常に共通の懸念を共有しています。それは、自社のデータや情報がしっかりと危害から守られていて、セキュリティ システムによって適切に保護されているか、という点です。これはすぐに変わるものではありません。お客様は Broadcom が常に新たな脅威や攻撃ベクトルの一歩先を行くことを要求し続けるはずです。

とはいえ、変化したのはモバイル、クラウド、そして生成 AI によって引き起こされる脅威をとりまく状況です。業界での長い経験から、新しいテクノロジーのもとに人が集まることで、数年ごとに大きな変化が起きていることに気づきました。かつては、動作ブロックがありました。次に、サンドボックスと高度な ML が登場しました。いずれも状況の変化に対応し、新たな攻撃対象領域をもたらしていました。そして今、間違いなく最大の変化と言えるのが生成 AI です。

セキュリティ業界の未来を形作るうえで、テクノロジーはどのような役割を果たすのでしょう？

Bromwich 氏: セキュリティ業界において、生成 AI は防御側である私たちだけでなく、攻撃側にとっても大きな影響力を持つものとなりえます。生成 AI により、攻撃者は不正行為を簡単に自動化できるため、今後、数年間にわたり、攻撃の数と深刻さは増大するはずです。

一方、セキュリティ目的で生成 AI ツールを実装する組織も増加します。より優れた高速な分析が可能になる機会がもたらされ、攻撃を予測し、全般にわたって予防的かつ積極的に対応できるようになると考えられます。

生成 AI がセキュリティ業界に価値を提供できる具体的なユースケースとしてどのようなものがありますか？

Bromwich 氏: Symantec はすでに生成 AI を利用し、お客様が 当社のセキュリティ プロダクトを簡単に使用できるようにしています。企業全体の自然言語検索は、きわめて効果的であることが証明されています。たとえば、自然言語を使って企業内のすべてのテレメトリを検索し、状況を把握できます。これにより、貴重な時間を節約できるので、セキュリティ チームは問題の解決と防御の強化に専念できるようになります。

生成 AI は開発者にとっても大幅な時間の節約になります。開発者はシンプルなチャット インターフェースを通じて新しいコードを作成し、サイバーセキュリティ プログラムのデプロイを加速できます。そして、この新しいコードによって組織を危害から守ることができます。

今後、セキュリティ モデルがよりスマートになるにつれて、生成 AI の予測分析機能が、弱点や脆弱性を取り除くうえで有効であると証明されるでしょう。たとえば、生成 AI ツールは、これまで遭遇したことがない新しい環境を確認した場合でも、これを分析し、以前に侵害されたシステムとの類似点を見つけることができます。さらに、次のように回答してくれます。「これらの新しい状況は、攻撃につながった他の状況と非常によく似ています。攻撃を防ぐには、その状況を無効にする必要があります。」

これはセキュリティの一例にすぎません。生成 AI の予測機能は、不正行為の検出から保険のリスク評価に至るまで、あらゆる分野で威力を発揮します。これにより、実務担当者やアナリストは仕事を進めやすくなり、ビジネスの生産性全般が向上します。

Google とともに、どのような生成 AI のユースケースに取り組んでいますか？

Bromwich 氏: Broadcom は先日、Google Cloud とのプロジェクトを発表しました。このプロジェクトは、高度なサイバー攻撃を検出、理解、修復するための重要な技術的優位性をお客様に提供します。Symantec のポートフォリオ全体に Google Cloud の生成 AI を組み込んでおり、自然言語インターフェースを使用して、より包括的でわかりやすい脅威分析を生成しています。

以前は、アナリストが大量の元データをバイナリ ファイルに書き出し、これを理解可能な形式に変換しなくてはなりませんでした。現在は、人が理解できるデータの説明を生成 AI に出力させるだけで済みます。これは大幅な時間の節約になります。セキュリティ オペレーション センター（SOC）アナリストの生産性が向上し、より大きな脅威への対処に集中できる時間が確保されるだけでなく、最終的には企業が迅速に脅威に対応できるようになります。

このタスクでは、生成 AI によってアナリストの生産性が大幅に向上し、数時間ではなく数秒で回答を得られます。作業の 80% は生成 AI が処理してくれるので、アナリストは残りの 20% に集中するだけで済みます。実に便利です。Windows バイナリ ファイルを取得し、潜在的な脅威を人が読める形式で記述できるアナリストはそう多くはいません。このような場合に、生成 AI は大いに役立ちます。

Google Cloud とともに AI への取り組みを始めたきっかけは何ですか？

Bromwich 氏: Broadcom は 4 年ほど前から Google Cloud と協力してきました。当時、Google の堅牢なネットワークと、幅広いサービスとデータセンターの専門知識を必要としていたため、すべてのプロダクトを Google Cloud に移行しました。

生成 AI に関しては、AI モデルの構築には莫大な投資が必要であることにすぐに気づきました。Google はすでにセキュリティ モデルを構築し始めていたので、そのトレーニングを我々が支援したうえで、のちに我々もこれを活用できると考えました。つまり、Broadcom と Google Cloud は基本的にお互いの強みを活用していることになります。

Broadcom は脅威を阻止することに軸を置いています。確かに、当社は生成 AI を活用したいので、1,000 人の開発者によって独自の生成 AI システムを構築できれば良いのですが、そうすると当社の強みに集中できなくなります。優れた生成 AI を提供しているだけでなく、セキュリティも中心に据えたシステムを構築している Google Cloud を活用したほうが、はるかに良いです。

セキュリティの未来について大胆な予測をお願いできますか？

Bromwich 氏: その予測は、攻撃が今後どのように起こるかに関係があると思います。これまで、攻撃者は最も弱い部分として人をターゲットにしてきました。そのターゲットは、ホームユーザーから始まり、最近では大企業のユーザーとなり、認証情報を盗んで使用していました。当社は、この種の攻撃を阻止する能力が大きく向上しています。

しかしすぐに、攻撃者は生成 AI を利用してインフラストラクチャの脆弱性を見つけて悪用するようになるでしょう。現実に目を向けてみると、現代の働き方に応えてシステムが複雑になるにつれ、より多くの脆弱性が明らかになっています。脆弱性がゼロの状態になる可能性は低いため、代わりに潜在的な攻撃対象領域を減らすことに注力する必要があります。

こうした点を踏まえ、組織は最初からインフラストラクチャにセキュリティを組み込むことに注力し、生成 AI を使用して脆弱性を特定し、攻撃者が脆弱性を突く前に修正しなくてはなりません。これは、攻撃者との大きな競争になりつつあります。

変革に取り組む、ビジネスリーダーに向けて、アドバイスをいただけますか？

まず、変革を諦めずに続けてください。たとえ現状維持で十分な場合でも、変革し続ける必要があります。また、現在のテクノロジー情勢を考慮し、これまでのこだわりを捨て、できることを探す意思も必要です。

頂上のない山のように、変革とは可能性の頂点に向かってひたすら登っていくものです。変わらぬ情熱を注ぎ続けながら登っていく必要があります。大切なのは目的地ではなく、その過程であることを忘れないでください。

冒頭の画像は、Google Cloud で Midjourney を使用して、次のプロンプトで作成しました。「多様性に富んだチームが、青い電気のように見えるデジタルレンガで壁を構築している雑誌風のイラスト。彼らはハッカーから守るためにオフィスビルや街の周りに壁を作っています… より頑丈で、完成した壁ではなく建設中のようにしてください… 今作っているようにしてください。それと、場面を明るくして、昼間のようにできますか。それ以外は問題ありません。」

-Google Cloud セキュリティ、プロダクト管理担当バイス プレジデント Jeff Reed