Cloud CISO の視点: AI によるサイバー防御の強化

※この投稿は米国時間 2024 年 2 月 29 日に、Google Cloud blog に投稿されたものの抄訳です。

2024 年 2 月、2 回目の投稿となる「Cloud CISO の視点」をご覧いただきありがとうございます。本日は、セキュリティと公共政策の関係に関する Google のスペシャリストである Charley Snyder が、2 月のミュンヘン セキュリティ カンファレンスでの Google の発表と、このカンファレンスが公共政策の議論において重要な役割を果たしている理由について語ります。

これまでのすべての「Cloud CISO の視点」と同様、このニュースレターのコンテンツは Google Cloud 公式ブログに投稿されます。このニュースレターをウェブサイトでご覧になっており、メール版の受信をご希望の方は、こちらからご登録ください。

ー Google Cloud、TI セキュリティ担当 VP 兼 CISO、Phil Venables

AI によるサイバー防御の強化計画

Google、セキュリティ ポリシー責任者 Charley Snyder

AI は世界を席巻しており、インターネットの発明以来、これほどデジタル世界を一変させる可能性を秘めたテクノロジーはありませんでした。ここ 1 年は AI がもたらす新たなリスクが議論の中心になってきましたが、Google は破壊的革新がもたらす前向きな変化についても考えています。セキュリティ分野には、長年解決できていない問題が数多く存在します。そして、Google が AI の開発に取り組む中で、このテクノロジーがこれらの問題の解決を支援できる大きな可能性が示されています。

• Google は、主要な学術機関に対し、数百万ドル規模の新たな研究助成金を提供しています。
• Google は、組織による脅威の検出を支援するため、モデルの 1 つのソースコードを公開しました。
• Google は、Google for Startups プログラムで、サイバーセキュリティに関する課題の解決に AI を利用している 17 社のスタートアップが参加する新しいコホートを立ち上げました。
• Google は、1,500 万ドルを費やした Google.org サイバーセキュリティ セミナー プログラムを拡大し、ヨーロッパ全域をカバーしました。
• Google は、ヨーロッパのあらゆる規模の組織に安全な AI 対応インフラストラクチャを提供するため、数十億ドルを投資するというコミットメントを発表しました。

AI のリスクから AI のインパクトへ

毎年、ミュンヘン セキュリティ カンファレンスには世界のリーダーが集まり、差し迫った地政学的課題について話し合っています。今年は、中東での新たな紛争、ヨーロッパで進行中の戦争、そして年内に数十億人が国政選挙に投票することとなる 2024 年が民主主義の転換点となる可能性についてなどのトピックが取り上げられました。このカンファレンスでは、これらすべての問題におけるテクノロジー、とりわけ AI の役割が最優先事項として話し合われました。リーダーたちは、すでに不安定な地政学的情勢の中で、AI が不安定要素となることを懸念しています。

過去 1 年間、私は政策立案者、業務リーダー、技術者と AI について話をしてきましたが、その多くでテクノロジーのリスクが話題の中心となりました。各国の行政機関は、米国の AI に関する大統領令などのイニシアチブや、Google のセキュア AI フレームワーク（SAIF）のような業界主導のイニシアチブを通じ、企業やその他市民社会のステークホルダーと協力してこのようなリスクに対処して、リスクを軽減するための重要な措置を講じてきました。SAIF は、AI システムのセキュリティを強化するためのベストプラクティスを共同で確立するためのフレームワークです。

AI テクノロジーの安全性とセキュリティを確保するためにやるべきことはまだありますが、回避すべきリスクだけに目を向けていては、AI が持つ革新的な可能性を実現できません。Google は、セキュリティ ツールを改善し、防御者を支援するために AI を利用する新たな方法を毎日のように発見しています。このテクノロジーを前向きな方向に導くため、Google が行政機関と産業界の広範な議論を呼びかけているのはそのためです。

AI による防御者側の優位性獲得をサポート

AI に関する最も重要な疑問の一つは、AI が攻撃者と防御者のどちらにより役立つかということです。当然ながら、防御者がデータ、システム、インフラストラクチャ、人命を保護するために AI を使用しようと試みるのと同じだけ、攻撃者は AI の能力の悪用に取り組んでいます。Google は、防御者に有利に働く要因がいくつかあると考えています。

• セキュリティ コミュニティは、（不安定ながら）データにおいて攻撃者よりも優位な立場にあります。これまで、防御者の多くは、多すぎるほどのデータを持ちながら、それをセキュリティ上の前向きな成果につなげる有効なメカニズムを必ずしも持ち合わせていませんでした。AI により、脅威情報の共有とテレメトリーに関する過去 10 年間のコミュニティの進歩を活用し、そのデータを使用したトレーニングによってモデルを改善し、それらのモデルを使用して防御を強化できます。
• AI には、安全なソフトウェアの開発とデプロイメントを改善することで、サイバースペースの防御力を世界的に高める大きな可能性があります。将来的には、AI を搭載した開発ツールにより、安全性を重視した設計のコードと構成がエンジニアに提示され、また安全性、プライバシー、コンプライアンスに関する新たなリスクの発生を防ぐためにシステムのフォーマル プロパティが検証されるようになると考えています。
• 生成 AI は、手間のかかるタスクの削減（場合によっては排除）と、自然言語指導による防御者のトレーニング支援に特に適しています。全体として、AI はウェブのクリーンアップを支援し、防御者のスキルアップ、さらには防御者が存在しない組織のレベルアップにも役立ちます。

これらすべての例について、クラウド サービスを使用する組織は特に大きな恩恵を受けます。効果的な AI モデルを構築するために必要とされる、サイズと範囲が巨大なデータとトレーニングには、当然ながらクラウドが役に立ちます。オンプレミスでもクラウドと同様の AI のメリットを獲得できる可能性はありますが、AI のトレーニングにはクラウドで利用できるデータを使用した方が簡単（そして迅速な改善も簡単）であるため、現実的ではありません。

AI とセキュリティの今後の展望

AI が進化する中で、サイバー防御とサイバー攻撃の駆け引きは今後も続き、組織や行政機関にとって、サイバーセキュリティ戦略をその状況に適応させることは継続的な課題となるでしょう。この駆け引きを防御者側に有利に導くには、科学の可能性を引き出し、防御者に最大限の力を与える構造的条件を作り出すと同時に、悪用の可能性を制限できるよう、大胆な研究とポリシーの協議が必要です。

AI の進化が防御者の有利に働くよう、Google は 3 つの推奨事項を提案しています。

• AI のセキュリティを土台から強化する: 安全性を重視した設計の手法を優先し、自律的なサイバー防御のガードレールを開発します。従来のポリシーでは、AI モデルがもたらす幅広い細かなセキュリティ リスクに多くの注意が向けられてきましたが、モデルは多様なテクノロジー プロダクトの中の一つにすぎません。攻撃者は最終目標を達成するために最も防御が手薄なルートを選択するため、モデル自体への攻撃はほとんどの場合必要ないと考えられます。

AI システムのライフサイクル全体（トレーニング前からデプロイメント、実行時まで）と、技術スタックのすべてのレイヤ（ハードウェア、オペレーティング システム、プロトコル、API を含む）を通じて発生しうるより「日常的」なセキュリティ リスクを無視すべきではありません。このようなリスクを無視すると、AI セキュリティ テクノロジー自体が脆弱性の要因になります。

• 攻撃者ではなく、防御者に有利な状況を作る: 攻撃者には可能なイノベーションが防御者には許可されない未来を避けるため、AI の使用と導入に対するバランスのとれた規制アプローチを促進します。今日の AI ガバナンスに関する選択により、サイバースペースの状況が意図しない形で変化する可能性があります。

たとえば、公開されているデータを使用したモデルのトレーニングを禁止する規制は、ルールに従う企業がデータセットを活用することを制限するだけで、攻撃者を制限できません。AI による被害を抑えながら、防御者が AI を大規模に有効活用できるようにするための一体的な取り組みが必要です。これは特に重要インフラや公的機関などの高リスク分野に属する組織で重要となります。

• 研究協力を推進する: セキュリティとソフトウェア開発の新しいパラダイムを実現する科学的なブレークスルーを目指します。研究コミュニティは、セキュリティとソフトウェア開発の新しいパラダイムを実現するうえで中心的な役割を果たす必要があります。この役割には、新しいセキュリティ技術のテストと評価、リスクの評価と優先順位付け、あるタイプの脅威すべてを排除するために役立つ新しいイノベーションの導入が含まれます。既存の出版物は AI に対する攻撃や AI を使用した攻撃の実証に焦点を当てている傾向がありますが、AI に対する防御や、AI を使用した防御の構築に関する調査を優先する必要があります。

Google が AI ツールをどのように大胆かつ責任を持って構築しているのかについて、詳しくは Google の AI とセキュリティのサイトをご覧ください。

その他の最新情報

セキュリティ チームからこれまでに届いた今月のアップデート、プロダクト、サービス、リソースに関する最新情報は以下のとおりです。

• 多忙なビジネス リーダーが知っておくべき生成 AI に関する 5 つのセキュリティ用語: 進行中の AI 開発と、それにどう対応すべきかをより詳しくご理解いただけます。AI、セキュリティ、リスクに関するこれら 5 つの用語をご確認ください。詳細はこちら。
• 生成 AI によるエンタープライズ セキュリティの変化: Symantec のセキュリティ専門家である Adam Bromwich 氏が、Google Cloud の クラウド セキュリティ担当バイス プレジデントである Jeff Reed と、生成 AI がサイバーセキュリティにもたらす影響について話をしています。詳細はこちら。
• サイバーセキュリティの最前線における Mandiant Managed Defense の 1 年間: 2023 年を振り返って、Mandiant Managed Defense チームが、サイバーセキュリティへの取り組みから得られた重要な所見をハイライトします。詳細はこちら。
• ドイツ取引所のクラウド変革: セキュリティ ランブックで考慮すべき 10 の主要事項: ドイツ取引所は、クラウド変革の一環として長期的なセキュリティ プランを作成しました。他の金融サービス組織の力になるため、ドイツ取引所はこれまでの取り組みを共有しています。詳細はこちら。
• データ主権がドイツでの経済的機会の創出に役立つ仕組み: GovMarket は、ドイツの公共機関向けに調達のイノベーションを促進する新しいデジタル マーケットプレイスです。詳細はこちら。
• クラウドのセキュリティ徹底対策: サービス アカウント キーの使用をやめる: クラウドで認証情報を守るための簡単な解決策はありませんが、まずは、サービス アカウント キーの使用をやめることから始めましょう。詳細はこちら。
• オープンソースの Falco と gcpaudit プラグインでアラートをラングリング: オープンソースのランタイム セキュリティ プラットフォーム Falco を Google Kubernetes Engine とともに使用することで、クラスタとコンテナのワークロード セキュリティをモニタリングできます。詳細はこちら。
• Nomulus のセキュリティ: Nomulus のプロアクティブなセキュリティ審査: Google や Alphabet のプロダクトのセキュリティとユーザーの安全を維持するという目標を達成するため、Google の情報セキュリティ エンジニアリング チームは、プロダクトの設計とリリースのライフサイクル外でプロアクティブに製品を審査します。最新の審査では、オープンソース プロジェクトの Nomulus に焦点を当てました。詳細はこちら。

Mandiant からのニュース

• CTI プログラム成熟度評価の公開: サイバーセキュリティの全般的な状況改善に対する Google Cloud の継続的なコミットメントの一環として、Mandiant は、商業組織と行政機関が自組織のサイバー脅威インテリジェンス（CTI）プログラムの成熟度を評価できるよう、ウェブベースの Intelligence Capability Discovery を一般公開しています。詳細はこちら。
• capa が Ghidra を活用: Google Summer of Code プロジェクトの一環として、人気のリバース エンジニアリング ツールの最新リリースである capa v7 が Ghidra と統合され、capa の検出機能が Ghidra のユーザー インターフェースで利用できるようになりました。詳細はこちら。
• ScreenConnect の脆弱性に対する防御: Mandiant は、最近発表された ConnectWise ScreenConnect の脆弱性から組織を保護するために防御者が使用できる修復とセキュリティ強化のガイドをリリースしました。詳細はこちら。

Google Cloud セキュリティおよび Mandiant のポッドキャスト

• 技術と法律の視点から見たクラウド: Google Cloud でセキュリティ アーキテクトを務める Victoria Geronimo が、クラウドにおけるコンプライアンスとセキュリティに関して、Cloud Security Podcast のホストを務める Anton Chuvakin、Tim Peacock とともに議論し、クラウド移行の複雑な課題と重要な成果をまとめています。ポッドキャストを聴く。
• 安全なクラウド移行をより明確に理解: クラウドへの移行は大仕事です。組織がクラウド移行中にセキュリティ対策を維持、改善するにはどうすればよいでしょうか？また、どうすれば移行によってリスクを軽減できるでしょうか？Lacework のフィールド CTO を務める Merritt Baer 氏が Anton と Tim に加わり、クラウド移行の複雑な課題と重要な成果をまとめています。ポッドキャストを聴く。
• 北朝鮮の IT ワーカー: Mandiant の主席アナリストを務める Michael Barnhart 氏が、ホストの Luke McNamara とともに、朝鮮民主主義人民共和国（DPRK）が IT ワーカーを利用して企業にアクセスすることによる脅威に関する Mandiant の調査について話し合います。ポッドキャストを聴く。

月 2 回発行される「Cloud CISO の視点」をメールで受信するには、こちらからニュースレターにご登録ください。また 2 週間後に、Google Cloud からセキュリティ関連の最新情報をお届けします。

ー Google Cloud、TI セキュリティ担当 VP 兼 CISO Phil Venables

ー Google、セキュリティ ポリシー責任者 Charley Snyder