コンテンツに移動
セキュリティ & アイデンティティ

Cloud CISO の視点: Google の Big Sleep エージェントが大幅に進化、その他の AI 関連ニュース

2025年7月24日
https://storage.googleapis.com/gweb-cloudblog-publish/images/Cloud_CISO_Perspectives_header_4_Blue.max-2500x2500.png
Sandra Joyce

VP, Google Threat Intelligence

【Next Tokyo ’25】

【Next Tokyo】120 以上のセッションをアーカイブ公開中。話題の Gemini、生成 AI、AI エージェントなどの Google Cloud のアップデートや顧客事例をチェックしましょう。

視聴はこちら

※この投稿は米国時間 2025 年 7 月 18 日に、Google Cloud blog に投稿されたものの抄訳です。

2025 年 7 月最初の投稿となる「Cloud CISO の視点」をご覧いただきありがとうございます。今回は、Google Threat Intelligence 担当バイス プレジデントの Sandra Joyce が、Google の Big Sleep AI エージェントに関連して達成した素晴らしいマイルストーンと、セキュリティと AI の接点からのその他のニュースについてお話しします。

これまでのすべての「Cloud CISO の視点」と同様、このニュースレターのコンテンツは Google Cloud 公式ブログに投稿されます。このニュースレターをウェブサイトでご覧になっていて、メール版の配信をご希望の方は、こちらからご登録をお願いします。

Google の Big Sleep エージェントの躍進、その他の AI ニュース

Google Threat Intelligence 担当バイス プレジデント、Sandra Joyce

https://storage.googleapis.com/gweb-cloudblog-publish/images/2022_S_Joyce_Headshot.max-2200x2200.jpg

AI の価値定義と、その価値を創出する AI の実装が同時進行で行われている、という現象が、世界中のビジネスで起こっています。AI で価値を創出しようとビジネス リーダーが先を争っているためでしょう。Google Cloud では、サイバーセキュリティにおける AI の形成と AI ワークフローの定義に向けた取り組みに力を入れる中で、この分野で活躍する AI の可能性に今からワクワクしています。

その取り組みの一部については、4 月の RSA Conference で、AI がサイバーセキュリティをどのように再構築しているか、Google が攻撃と防御の両方で AI の実践的な用途を高めるためにどのようにデータを使用しているかなどについてお話ししました。Google DeepMind と Project Zero が 2024 年 11 月に初めて発表した Big Sleep AI エージェントが、防御者にとって飛躍的な前進を遂げたことを、火曜日に発表しました。AI エージェントが、野放し状態の脆弱性を悪用する試みを直接阻止したのは、これがおそらく初めてでしょう

Google Threat Intelligence グループ(GTIG)の脅威インテリジェンスと Big Sleep AI エージェントを組み合わせることで、脅威アクターのみが知る重大な SQLite 脆弱性を特定し、実際に使用される前に阻止することができました。

Big Sleep で防御者がまだ知らない脆弱性を発見できることを実証したこのケースでは、攻撃者が知っていて使用するつもりだった脆弱性を発見し、攻撃者が悪用する前に検出して報告し、パッチを適用できました。

Google DeepMind と Google Project Zero が開発した Big Sleep は、ソフトウェアのゼロデイ脆弱性(セキュリティ研究者がまだ存在に気付いていないセキュリティ上の欠陥)を見つけるのに役立ちます。昨年導入されて以来、広く使用されているソフトウェアの複数の欠陥を続けて発見し、期待を上回る成果を上げて、AI を活用した脆弱性調査を加速させています。

Big Sleep で防御者がまだ知らない脆弱性を発見できることを実証したこのケースでは、攻撃者が知っていて使用するつもりだった脆弱性を発見し、攻撃者が悪用する前に検出して報告し、パッチを適用できました。

守るべき領域が広がり、標的も無数にあるため、攻撃者が長らく優位に立ってきましたが、AI を活用した脆弱性対応の生産性は、防御側の視点から見ると驚く速度で向上しています。Big Sleep の代わりに人間を入れた場合、2 つの異なるバージョンのオープンソース コードを精査し、脆弱性がどこにあるかを手作業で確認する必要があり、しかも、見つけて対応している間に攻撃者に先を越されるかもと心配しながらの作業になったことでしょう。

このケースで勝敗を分け、脅威アクターに優位に立つことができた要因は、AI のスピードと精度です。防御側がこれらのシステムを所有し管理していることが、AI が脆弱性対策の開発(および修復)において私たちを非常に有利な立場に立たせてくれました。

Big Sleep は、広く使用されている他のオープンソース プロジェクトのセキュリティ向上のためにもデプロイされており、インターネット全体のセキュリティをより迅速かつ効果的に強化するうえで大きな成果をあげています。

防御 AI エージェントの強化

AI エージェントはサイバーセキュリティに変革的な変化をもたらす存在ですが、その作業は安全かつ責任を持って行われる必要があります。6 月に投稿したブログ記事では、プライバシーを保護し、不正行為のリスクを軽減しながら、人間の監督と透明性のメリットを活かしてエージェントが適切に動作する AI エージェントの構築に向けての Google のアプローチを概説しました。安全性を重視した設計の原則に従ってデプロイされるエージェントは、これまでのどのツールよりも優れた優位性を防御者に与えることができます。

Google は、エージェント AI に関する洞察や調査結果を、業界標準の情報開示プロセスを通じて今後も共有し続けます。Big Sleep から公開されているすべての脆弱性は、Issue Tracker のページで確認できます。

セキュリティ全体への AI の影響が、脅威ハンティングの強化から、セキュリティ検証の強化、よりスマートなレッドチーム分析まで、至るところで確認されています。同様に、増え続けるメール フィッシング攻撃に対処する防御者を AI がスピードと精度で支援しています。攻撃者も AI を利用して、フィッシング メールを正規のメールに見せる偽装の手口をさまざまに改善しており、メールを受信者に合わせてカスタマイズして口語やスラングを使うなど、巧妙化しています。

しかし、スピアフィッシング メールがどのようなものかを AI モデルに学習させれば、フィッシング脅威の検出、トリアージ、特定がより迅速かつ大規模に行えるようになり、人間の審査が必要な場合でも対象件数が減ります。AI ベースの防御機能は Gmail に実装されていて、あらゆる種類のフィッシング、スパム、マルウェアのブロックに使われています。

  • Gmail は、迷惑メール、フィッシング、マルウェアの 99.9%以上を自動的にブロックし、15 億以上の受信トレイを保護しています。
  • 昨年、Google は Gmail のサイバー防御を大幅に強化する画期的な AI モデルをいくつか開発しました。その中には、フィッシング、マルウェア、スパムのデータを使ってトレーニングした新しい大規模言語モデル(LLM)も含まれており、以前よりも 20% 多くのスパムをブロックし、ユーザーから報告されたスパムの審査を毎日 1,000 倍多くこなしています。

攻撃者による AI の使用に関しては、まだ「AI 紀元前」のようです。RSAC で述べたように、Google Threat Intelligence Group は、コードの肉付けに AI が使用されていることや、ディープフェイク、より巧妙なスピアフィッシング メールを作成するために AI が使われているのも確認されています。しかし、AI が人間にはできないことを行った、大きなゲームチェンジャーとなるインシデントや、エージェント型攻撃者、エージェント型攻撃、自己永続型の攻撃のようなものは確認されていません。

このような攻撃が起こることは十分に予想されるため、AI 開発者が業界全体で、また公共部門のパートナーと協力して、防御者を育成し体制を整え、AI で確実に防御できるようにすることが重要です。このようなパートナーシップを構築する取り組みの一環として、Google は昨年、業界パートナーと協力して Coalition for Secure AI(CoSAI)を立ち上げました。これは、AI システムの安全な実装を実現するためのイニシアチブです。

この取り組みをさらに進めるため、Google は昨日、CoSAI のエージェント AI、サイバー防御、ソフトウェア サプライ チェーン セキュリティのワークストリームを加速させる目的でセキュア AI フレームワーク(SAIF)のデータを寄付することを発表しました。

Google では 10 年以上にわたり、AI と ML のツールに投資してきました。AI はソフトウェアのセキュリティ強化に貢献すると常に信じてきましたが、昨年 AI の機能が飛躍的に向上したことで、持続可能で耐久性のあるサイバーセキュリティのあり方は今、再定義されつつあります。

AI を活用して世界中のビジネスのセキュリティを確保し、サポートするための Google の取り組みについて詳しくは、CISO オフィスをご覧ください。

その他の最新情報

セキュリティ チームからこれまでに届いた今月のアップデート、プロダクト、サービス、リソースに関する最新情報は以下のとおりです。

  • サイバーセキュリティの夏: AI で防御者を支援: セキュリティに関する最新の AI イノベーション、官民パートナーシップ、すべての人々のデジタル エコシステムを保護するための新しい取り組みについて、Black Hat と Def Con で私たちが予定している発表内容を含めて詳しくご紹介します。詳細はこちら
  • Deutsche Telekom のソブリン データ プラットフォームのエンジニアリング: Deutsche Telekom のバイス プレジデントである Ashutosh Mishra 氏が、Google Cloud が同社のソブリン データ プラットフォームの構築にどのように役立ったかを説明します。詳細はこちら
  • GDC エアギャップの新しいネットワーキング機能でイノベーションを推進: Google Distributed Cloud エアギャップのネットワーキング機能が 3 つの点で大きく進化し、環境をより細かく制御できるようになりました。詳細はこちら
  • Looker の会話分析におけるセキュリティ: Looker の会話分析では、データをユーザーの管理下に置いたままで、Gemini を使用し、データをより深く理解できます。詳細はこちら
  • 年齢確認におけるプライバシーを促進するためにゼロ知識証明技術を公開: これらの強力な暗号化ツールをオープンソース化することで、民間および公共部門の開発者は、プライバシーを強化するアプリケーションやデジタル ID ソリューションをはるかに簡単に構築できるようになり、緊急のニーズに対応できます。詳細はこちら
  • Android 版 Chrome の保護を強化: Android は最近、高度な保護機能を発表しました。これは、高度な保護機能プログラムを拡張し、セキュリティ強化を必要とする Android ユーザー向けにデバイスレベルのセキュリティ設定を提供するものです。Android 版 Chrome との統合の詳細はこちら

今月公開されたその他のセキュリティ関連の記事については、Google Cloud 公式ブログをご覧ください。

脅威インテリジェンスに関するニュース

  • 最新のサイバー レジリエンスにおいて隔離されたリカバリ環境(IRE)が重要な理由: 障害復旧戦略において IRE は測定可能な重要な違いをもたらします。ここでは、組織が IRE を効果的に実装するための実用的な手順をご紹介します。詳細はこちら
  • 最新の変電所の保護リレーを保護するために: 変電所に設置されたデジタル化された保護リレーがサイバー攻撃を受けると、電力網の安定性を脅かし、広範囲にわたる停電やインフラストラクチャの損傷を引き起こす深刻な脅威となります。CISA は、イラン系グループによる重要なネットワークを標的とする攻撃リスクの高まりを警告しています。重要インフラのプロバイダがこれらのリレーを保護するために知っておくべきことについて説明します。詳細はこちら

今月公開されたその他の脅威インテリジェンス関連の記事については、Google Cloud 公式ブログをご覧ください。

注目の Google Cloud ポッドキャスト

  • SIEM のパラドックス: ログ、嘘、検出の失敗: Citreno の創業者兼 CEO である Svetla Yankova 氏が、ホストの Anton Chuvakin と Tim Peacock を相手に、SIEM のツールと脅威検出における課題について語ります。ポッドキャストを聴く
  • Google プロダクト セキュリティ エンジニアリング(PSE)のレジリエンスとセキュリティに対するアプローチ: Google では、高信頼性やオペレーショナル エクセレンスと、脅威検出対応に対するニーズとのバランスをどのようにとっているのでしょうか。Google Cloud のプロダクト セキュリティ エンジニアリング マネージャーである Cristina Vintila が、Anton と Tim を相手に PSE の進化について語ります。ポッドキャストを聴く
  • プライバシー設計における人間的要素: Google のプライバシー エンジニアである Sarah Aoun が、世界的なリーダーから Fuschia まで、デジタル プライバシーの構築における微妙なバランス感覚、課題、喜びについて、Anton と Tim を相手に深く掘り下げます。ポッドキャストを聴く
  • 防御側の優位性: ClickFix の台頭: Google Threat Intelligence Group のセキュリティ エンジニアである Dima Lenz が、ホストの Luke McNamara を相手に、脅威アクターが ClickFix を使用してユーザーをソーシャル エンジニアリングしている状況について語ります。ポッドキャストを聴く

月 2 回発行される「Cloud CISO の視点」のメール配信をご希望の方は、ニュースレターにご登録ください。次回も Google Cloud からセキュリティ関連の最新情報をお届けします。

-Google Threat Intelligence 担当バイス プレジデント、Sandra Joyce

投稿先