Cloud CISO の視点: 2023 年 7 月上旬
Google Cloud Japan Team
※この投稿は米国時間 2023 年 7 月 21 日に、Google Cloud blog に投稿されたものの抄訳です。
2023 年 7 月最初の投稿となる「Cloud CISO の視点」をご覧いただきありがとうございます。今回は私の同僚の Google プライバシー、安全、セキュリティのエンジニアリング担当バイス プレジデントである Royal Hansen に AI、セキュリティ、リスクのトピックについて聞いてみましょう。
今年は AI、特に AI とセキュリティの当たり年です。AI について、そして、AI をどのようにセキュリティなどのいろいろな分野に適用できるかについて関心が高まっています。こうした技術革新の新たなフロンティアにおいて進歩を追求するには、この技術を責任ある方法で構築し、デプロイするための明確な業界セキュリティ基準が必要です。
今週の Aspen Security Forum でこれらのトピックについて調査している Royal と一緒に、この分野における Google の進歩について掘り下げます。私の質問に対する Royal の答えが皆様の参考になれば幸いです。
他の「Cloud CISO の視点」と同様に、このニュースレターのコンテンツは Google Cloud 公式ブログに投稿されます。このニュースレターをウェブサイトでご覧になっており、メール版の受信をご希望の方は、こちらからご登録ください。
AI とセキュリティの有望性と危険因子
Phil Venables: まずは、AI レッドチームについてお話しましょう。これについては、昨日、Google が Aspen Security Forum で発表した新しい論文で特集しています。なぜ、AI がレッドチームに必要なのでしょうか。
Royal Hansen: 今回はお話しできて本当に嬉しいです。Google は、レッド チーミングをテクノロジーにおけるセキュリティの弱点を探すフレンドリーなハッカーであり、あらゆる組織を AI システム上の攻撃から守る決定的な役割をしていると考えています。Google は長年にわたって AI ファーストな会社であり続けており、この論文にはレッド チーミングがどのように AI テクノロジーを守る中心的な役割を担っているかが書かれています。
次の 3 つの重要な分野に注目しましょう。1）AI システムの観点からレッド チーミングとは何か、そしてなぜそれが重要なのか 2）AI レッドチームがシミュレーションする攻撃とはどんなものなのか 3）学習した教訓は他者と共有できるのか
PV: レッドチームにはたったひとつの使命があります。それは、AI デプロイを標的にする脅威アクターをシミュレーションすることです。どのような攻撃をシミュレーションしているのでしょうか。
RH: AI レッドチームは AI システムへの攻撃に真摯に取り組んでいます。報告書では、攻撃者が AI に対抗するために使用する傾向がある「6 つの戦術、技術、手順（TTP）」、すなわち、プロンプト攻撃、トレーニング データの抽出、AI モデルへのバックドア設置、モデルを騙す敵対的サンプル、データ ポイズニング、データの引き出しについて述べています。
ここで強調したいのは、AI システムは、たいてい大きな全体の一部分であるため、AI レッドチーム TTP は、従来のレッドチーム演習とともに使用されるべきであるということです。その好例が、AI レッドチームが Trust and Safety チームと協力してコンテンツの不正利用を防止した方法です。
PV: 報告書からの教訓について話していただけますか？
RH: もちろんです。戦術的な教訓から始めましょう。
私たちは、多くの種類の攻撃から保護するためには、システムやモデルが適切にロックダウンされていることを確認するといった従来のセキュリティ管理をすることで、リスクを大幅に軽減できることを知っています。これは特に、AI モデルのライフサイクル全体にわたって完全性を保護することにも当てはまり、データ ポイズニングやバックドア攻撃の防止に役立ちます。
AI システムに対する多くの攻撃は、従来の攻撃と同じ方法で検知可能であることを知ることができました。しかし、プロンプト攻撃やコンテンツの問題などのその他の攻撃には、複数の安全モデルを重ねる必要があるでしょう。モデルへの入力と出力の両方を検証し、サニタイズするといった伝統的なセキュリティ哲学は、AI の分野でも依然として適用されています。
より高いレベルの視点から見ると、レッドチームが発見したことに対処することは困難で、攻撃によっては簡単には修正できないこともあります。レッドチームには、セキュリティや AI のサブジェクト マター エキスパートと協力して、現実的なエンドツーエンドの敵対シミュレーションを行うことをおすすめします。
PV: 少し話を戻して、今年テクノロジーの話題を独占した AI とともに、Google はどのようにしてここまで来たのかを見てみましょう。特に、あなたが Google に在籍していたときの AI の進化をどのように表現しますか？
RH: AI は新しいものではありません。Google は 10 年以上前から AI をサービスに組み込んできました。Google 検索、翻訳、マップ、Gmail、Google Play ストアのアプリを利用している方々は、何年も前から AI を利用し、その恩恵を受けています。
Google の AI の大きな節目のひとつに、2011 年に社内ネットワークの異常を検出するために ML を使用したことがあります。現在、これらの機能は進化しており、Google のレッドチームが Google のシステムに対する高度なハッキング テクニックを発見し、テストするのに定期的に役立っています。
2014 年に Google は ML の公平性に関するチームを立ち上げました。2018 年、AI に関する原則を採用し、複雑さとリスクを軽減し、社会的課題に取り組みながら人々の生活も向上させることにより、責任ある AI を採用する運動の先頭に立ちました。
今年は、Secure AI Framework（SAIF）を発表することで、サイバーセキュリティへの共同アプローチを構築しました。SAIF は、Google がソフトウェア開発で利用したセキュリティのベストプラクティスから着想を得るとともに、セキュリティに関するメガトレンドとAI システムに特有のリスクに関する私たちの知見を取り入れています。
テクノロジーは新たな脅威を生み出しますが、脅威と戦う手助けにもなります。AI は多くの場合、AI によって生み出された問題に対抗するのに役立ちます。インターネットが誕生して以来初めて、セキュリティの防御側が攻撃側に対して優位に立てるようになる可能性さえあるのです。
SAIF はモデルの盗用、トレーニング データのポイズニング、プロンプト インジェクションによる悪意のある入力の追加、トレーニング データの機密情報の抽出など AI システム特有のリスクを軽減するように設計されています。
現在、サイバー セキュリティやそれ以外の分野における生成 AI について多くの議論がなされていますが、Google は何年も前から、日々の業務でより広く AI を利用し、AI から学んできました。
PV: 特に危機的状況や戦争、選挙などの重要な場面で、より質の高いオンライン情報を確保するにはどうすればいいのでしょうか。特に AI の時代において、このような重要な瞬間のセキュリティと保護についてどのようにお考えですか？
RH: テクノロジーは新たな脅威を生み出しますが、脅威と戦う手助けにもなります。AI は多くの場合、AI によって生み出された問題に対抗するのに役立ちます。インターネットが誕生して以来初めて、セキュリティの防御側が攻撃側に対して優位に立てるようになる可能性さえあるのです。
たとえば、Gmail は現在 AI を使って 99.9% 以上のマルウェア、フィッシング、迷惑メールを自動的にブロックし、15 億以上の受信トレイを保護しています。AI は、誤った情報、虚偽の情報、操作されたメディアを特定し、追跡するのに役立ちます。昨年、ウクライナのウォロディミル ゼレンスキー大統領がロシアに降伏したという AI 生成の「ディープフェイク」動画を Mandiant が発見し、警鐘を鳴らしたのは顕著な例です。
Google はすでに、有害なコメントや問題のある動画を特定するために ML を利用しています。Google が取り組んでいる技術的な AI の革新には、AI が生成した画像のウォーターマーク、Google 検索で今後実装予定の「この画像について」機能のように、オンライン情報を評価するツールを作成することも含まれます。私たちはまた、生成 AI で作成されたメディアの開発、作成、共有における責任ある実践を促進する、AI による責任ある合成メディア作成の取り組みにも参加しています。
フロンティア AI のモデルは、世界を改善する大きな可能性を秘めていますが、その開発と導入には新たな規制要件の可能性を含め、十分注意が必要です。
今後の課題は、AI の悪意ある利用を防止するために適切な管理体制を整え、不正な行為者に共同で対処する一方で、AI の潜在的なメリットを最大化し、国際競争力のレースの先頭に立ち続けることです。
PV: Google は、AI によって直面するかもしれないリスクを管理するために、どのような取り組みを行っていますか？
RH: 私たちは主に 2 つの視点から AI とセキュリティについて考えています。1 つ目は、AI を使って安全性とセキュリティを強化すること、2 つ目は、AI を攻撃から守ることです。
フロンティア AI のモデルは、世界を改善する大きな可能性を秘めていますが、政府と産業界は、政策レベル、ビジネスレベル、技術レベルで適切なガードレールが必要であることに同意しています。
その開発と導入には、新たな規制要件の可能性を含め、十分注意が必要です。これらの取り組みには、すでに米国や英国政府、欧州連合、広島 AI プロセスを通じて G7 などが重要な貢献をしています。さらに、先進的な AI システムが責任を持って開発され、導入されるよう、安全基準と評価に関する取り組みが必要です。
安全性とセキュリティの境界線は曖昧になりつつあり、サイバーと信頼と安全性、消費者と企業、公共部門と民間部門、国内と国外を超えた協力が必要となっています。
困難であっても、私たちは、行政機関、民間部門、学界、市民社会が協力して、責任ある AI ポリシーの課題に取り組むよう呼びかけています。そして、AI の進歩を可能にするためには、機会、責任、セキュリティという 3 つの重要な分野に焦点を当てなければなりません。
PV: サイバー攻撃のモニタリングと対応への Google のアプローチはどのように変化しましたか？現在の立ち位置はどこですか？ユーザー保護はどのように進化していますか？
RH: オンライン上でのユーザーの安全確保は、かつてないほど複雑かつ緊急性を増しています。新たなマルウェア ファミリー、ランサムウェアのような金銭的な動機に基づく攻撃、サプライ チェーン攻撃、さらには重要なインフラストラクチャに対する国家の支援を受けたアクターによるサイバー攻撃の増加が見られます。これにより、政策立案者や企業のリーダーが数十年にわたる問題に焦点を当てることになり、私たちの生活様式が混乱し、これまで以上に高いリスクを抱えることになりました。
変化し続ける未来の攻撃からユーザー、行政機関、企業を総合的に守るためには、脅威の状況についての考え方を広げる必要があります。
PV: 今週の Aspen Security Forum はいかがでしたか？重要なポイントは何でしたか？
RH: このようなイベントでは、セキュリティ分野の最も優秀な人々から話を聞くことができます。私は、熱心に話を聞き、学んで、プライバシー、安全、セキュリティにおいてより良いパートナーになるための教訓を Google に持ち帰りました。官民を問わず、新旧の同僚とつながることができ、盛りだくさんの一週間でした。
ここで、AI とセキュリティのさまざまな側面に驚かされました。安全性とセキュリティの境界線は曖昧になりつつあり、サイバーと信頼と安全性、消費者と企業、公共部門と民間部門、国内と国外を超えた協力が必要となっています。SAIF フレームワークは、組織が AI 計画にこのアプローチを組み込むのを助ける素晴らしい方法です。
その他の最新情報
セキュリティ チームからこれまでに届いた今月のアップデート、プロダクト、サービス、リソースに関する最新情報は以下のとおりです。
Google Cloud Next をお楽しみに: Google Cloud Next ‘23 の早期割引登録は完売しましたが、カンファレンスにはまだ登録できます。今年の Next は、ジェネレーティブ AI の誕生やサイバーセキュリティのブレークスルーなどのエキサイティングな出来事が続いている中での開催となります。クラウド業界で働いていて、これ以上のことはかつてありませんでした。予定されているセキュリティ セッションをチェックして、今すぐご登録ください。
取締役会は、サイバーセキュリティの IQ を高めるために専門家を招聘すべき: 第 2 回「取締役会のためのセキュリティの視点」レポートでは、セキュリティを重要視する取締役会が、クラウドへの移行、最新の脅威への対応、AI の責任ある活用に組織をどのように動かすことができるかについて詳しく解説します。詳細はこちら。
セーフ ブラウジングが、パスワードレスな未来への道をどのように切り開いたか: 2005 年に Firefox のフィッシング対策プラグインとして開始された Google セーフ ブラウジングは、現在では世界中の 50 億台以上のデバイスを保護しています。これはまた、テック企業がその大きなスケールによるインサイトをいかにセキュリティ向上に活用できるかを示す典型的な例でもあります。詳細はこちら。
Google Cloud NAT が Macy’s のセキュリティ強化にどのように貢献したか: Macy’s は高級ファッションで世界的に有名です。顧客データのセキュリティを確保するために有効な対策を講じていることはあまり知られていません。Macy’s がインフラストラクチャをオンプレミスから Google Cloud に移行した際、要件としてあげたのは、セキュリティやユーザー エクスペリエンスをけっして犠牲にしない、ということでした。詳細はこちら。
Google Workspace がオランダ政府の承認を獲得: オランダ教育省はオランダ議会に対し、オランダ政府機関と教育部門の代表者により実施されたデータ保護影響評価の一部として、Google がコミットメントを果たしていることを確認しました。オランダの公的機関と教育機関は、Google Workspace および Google Workspace for Education を引き続き安心して利用できます。詳細はこちら。
GitHub と Terraform Cloud の Workload Identity 連携の構成方法: Workload Identity 連携は、Gitlab、GitHub actions、Terraform Cloud などの外部プロバイダと統合できます。外部プロバイダから発行されたトークンをさまざまな属性にマッピングし、どの ID が認証できるかを制限する条件を評価するために使用できる方法をご紹介します。詳細はこちら。
Google Cloud と CyberGRX が連携し、拡張と評価の迅速化を可能に: CyberGRX は、多くのローカル コンプライアンス体制要件と MITRE ATT&CK フレームワークに基づいて、Google Cloud のセキュリティ対策の包括的かつ客観的な視野を提供します。このコラボレーションは、リスク評価とデュー デリジェンス サービスの拡張と加速をサポートしています。詳細はこちら。
Mandiant からのニュース
GRU の破壊作戦: Mandiant は、ロシア連邦軍参謀本部情報総局（GRU）がウクライナに対する破壊的作戦において、標準的な 5 段階の作戦をどのように使用しているかを追跡してきました。これは、GRU が攻撃的サイバー作戦を実施する速度、規模、強度を意図的に高めると同時に、検知される確率を最小限に抑えることを目的にしていると思われます。詳細はこちら。
脅威アクターは新しい攻撃で USB ドライブを懐かしんでいる: 2023 年上半期、Mandiant Managed Defense は感染した USB ドライブを使って機密を盗む攻撃が 3 倍に増えているのを確認しました。このブログ投稿では、今年発生した 2 件の USB によるサイバースパイ活動について詳しくお話しします。詳細はこちら。
最新の Active Directory 証明書サービスへの脅威を防御: この強化ガイドでは、Active Directory 証明書サービスを標的にしたサイバー攻撃から組織を守る方法を説明します。詳細はこちら。
サードパーティーの Windows インストーラを介した権限のエスカレーション: Mandiant のレッドチームがサードパーティ製 Windows インストーラのゼロデイ脆弱性をどのように調査し、利用しているのか、また悪用されるリスクを減らすためにソフトウェア開発者は何をすべきなのかをご紹介します。また、キャッシュに保存された Microsoft ソフトウェア インストーラ ファイルの列挙を簡素化する新しいツールもご紹介します。詳細はこちら。
Google Cloud Security Podcast
2021 年 2 月に、Cloud Security にフォーカスした週に一度のポッドキャストを開始しました。このポッドキャストでは、ホストの Anton Chuvakin と Timothy Peacock がサイバーセキュリティの専門家たちと、業界がいま直面している特に重要で難しいトピックについて話し合います。今月取り上げたトピックは次のとおりです。
クラウドを本当に安全に使っていますか？「クラウドは安全だ、ただ安全に使っていないだけだ」というのは、クラウド セキュリティ関係者の間でよく言われる言葉です。この言葉の裏にはどれほどの真実が隠されているのでしょうか。クラウドを安全に使用することの実際的な意味から、SaaS への関心の高まりまで、Netskope のフィールド最高技術責任者である Steve Riley 氏とともに、神話を覆し、クラウド セキュリティの実態について議論します。ポッドキャストを聴くにはこちらから。
CISO クラウドの夢と現実はどうぶつかるか: パブリック クラウドを利用する組織にとって、今の現実的なクラウドのリスクとは何でしょう。また、クラウドは本当にセキュリティを「容易に」するのでしょうか。Centene Corporation の情報セキュリティ担当バイス プレジデントであり、Carolina Complete Health の CISO である Rick Doten 氏と、クラウドの現実とクラウド神話の隔たりについて議論します。ポッドキャストを聴くにはこちらから。
企業向け脅威インテリジェンス機能の構築に関する事実: 脅威インテリジェンスが簡単なものであれば、もっと多くの組織が脅威インテリジェンスを活用しているはずです。けれども、実際は多くの組織が脅威インテリジェンスの運用に苦労しています。そこで、Mandiant チームの主要インテリジェンス イネーブルメント コンサルタントである John Doyle 氏に、企業が脅威インテリジェンスをどのように活用できるかを説明をお願いするとともに、同氏が作成した企業向け脅威インテリジェンス能力の構築に焦点を当てた新しいインテリジェンス クラスについて探ります。ポッドキャストを聴くにはこちらから。
Mandiant のポッドキャスト
脅威の傾向: サイバー脅威インテリジェンスへの要件主導型アプローチ: Mandiant の上級脅威インテリジェンス アドバイザーである Jamie Collier 博士がホストの Luke McNamara とともに、インテリジェンスへの要件主導型アプローチの開発に関する Mandiant の最近のホワイトペーパーについて説明し、組織が直面する課題について議論します。また、適切に機能するサイバー脅威インテリジェンス チームに関係者から定期的にフィードバックを提供することの重要性も指摘しています。ポッドキャストを聴くにはこちらから。
月 2 回発行される「Cloud CISO の視点」をメールで受信するには、ニュースレターに登録してください。また 2 週間後に、Google Cloud からセキュリティ関連の最新情報をお届けします。
