Google Cloud Next Tokyo：7/30、31 東京ビッグサイトにて開催！

セキュア AI フレームワーク（SAIF）と Google Cloud

セキュア AI フレームワーク（SAIF）は、AI システムの保護を検討している組織にガイダンスを提供します。

Google は、組織における SAIF の実装をサポートし、安全に AI システムを構築してデプロイできるように、SAIF リスク自己評価を含む SAIF.google を作成しました。

以下では、SAIF の観点から Google Cloud Security ポートフォリオを検討し、さまざまなクラウドソリューションと管理機能を使用して、組織が潜在的な AI リスクを軽減する方法をご紹介します。

仕組み

SAIF リスクレポートで特定されたリスクへの対処を検討していますか？ご利用を開始

一般的な使用例

データポイズニング

Google Cloud のセキュリティへの取り組みの一環として、Google の基盤モデルには、不正なコピーや読み取りを防止するための広範なアクセス制御と、不正なアクションを監視するための最先端の検出機能が備わっています。

Google Cloud は、お客様が Google のプラットフォーム上で構成できるコントロールも提供しており、Google のモデルやお客様独自のサードパーティサービスの利用を保護できます。組織のポリシーと VPC Service Controls は、データの引き出しを防止し、きめ細かい Identity and Access Management（IAM）制御により不正アクセスを防止します。

Google Cloud がお客様のデータ保護を支援する方法について、詳細をご確認ください。

VPC Service Controls - Agent Platform 固有のポリシーを含め、クラウドリソース、センシティブデータ、ネットワークの周囲に隔離の境界を作成することで、データの引き出しを防止します。
組織のポリシーサービスを使用して、どのリソース構成を許可または拒否するかを適用するセキュリティガードレールを提供します。
Gemini Enterprise Agent Platform の Model Registry を使用して、ML モデルのライフサイクルを整理、追跡、管理します。
データセキュリティポスチャーの管理 - アクセスポリシーとフロー制御ポリシーを使用して、セキュリティ、プライバシー、コンプライアンスのためにモデル、データセット、関連する ML アーティファクトを管理します。
Confidential Computing を活用した Confidential AI は、ハードウェアベースのデータとモデルの保護を CPU から GPU にまで拡張でき、機密性、完全性、分離性を確保することで、AI や ML に不可欠なワークロードを高速化できます。Google は最近、AI / ML ワークロードのプライバシーと機密性の保護を目的に開発した 2 つの新しい Confidential Computing ソリューションを発表しました。NVIDIA H100 Tensor Core GPU を搭載した Confidential VMs と Intel Advanced Matrix Extensions（インテル AMX）をサポートする Confidential VMs です。詳細
Google Privileged Access Management: アクセス承認、アクセスの透明性、Key Access Justifications により、データと暗号鍵へのアクセスを安全に信頼できます。Google は、Google 社員によるお客様のデータアクセスリクエストを共有し、AI ワークロードを含むクラウドプロバイダのデータアクセスに対して、明示的（お客様のアクセス承認を複数の関係者による承認として）または暗号で強制された正当な理由に基づく（Key Access Justifications）制御を求める機能をお客様に提供します。暗号検証と詳細なログにより、完全な透明性と制御性を確保し、AI 関連データを含むセンシティブデータの取り扱いに対して Google への信頼が構築されます。

入門ガイド

Google Cloud がお客様のデータ保護を支援する方法について、詳細をご確認ください。

VPC Service Controls - Agent Platform 固有のポリシーを含め、クラウドリソース、センシティブデータ、ネットワークの周囲に隔離の境界を作成することで、データの引き出しを防止します。
組織のポリシーサービスを使用して、どのリソース構成を許可または拒否するかを適用するセキュリティガードレールを提供します。
Gemini Enterprise Agent Platform の Model Registry を使用して、ML モデルのライフサイクルを整理、追跡、管理します。
データセキュリティポスチャーの管理 - アクセスポリシーとフロー制御ポリシーを使用して、セキュリティ、プライバシー、コンプライアンスのためにモデル、データセット、関連する ML アーティファクトを管理します。
Confidential Computing を活用した Confidential AI は、ハードウェアベースのデータとモデルの保護を CPU から GPU にまで拡張でき、機密性、完全性、分離性を確保することで、AI や ML に不可欠なワークロードを高速化できます。Google は最近、AI / ML ワークロードのプライバシーと機密性の保護を目的に開発した 2 つの新しい Confidential Computing ソリューションを発表しました。NVIDIA H100 Tensor Core GPU を搭載した Confidential VMs と Intel Advanced Matrix Extensions（インテル AMX）をサポートする Confidential VMs です。詳細
Google Privileged Access Management: アクセス承認、アクセスの透明性、Key Access Justifications により、データと暗号鍵へのアクセスを安全に信頼できます。Google は、Google 社員によるお客様のデータアクセスリクエストを共有し、AI ワークロードを含むクラウドプロバイダのデータアクセスに対して、明示的（お客様のアクセス承認を複数の関係者による承認として）または暗号で強制された正当な理由に基づく（Key Access Justifications）制御を求める機能をお客様に提供します。暗号検証と詳細なログにより、完全な透明性と制御性を確保し、AI 関連データを含むセンシティブデータの取り扱いに対して Google への信頼が構築されます。

参考情報

モデル流出、モデルソースの改ざん、データポイズニングなどの AI リスクに対処するための追加サポートを必要としていませんか？

Google Cloud コンサルティングサービスは、モデルとデータアクセスの制御において強力な AI セキュリティポスチャーを実現するのに役立ちます。

安全なクラウド基盤: AI ワークロードの実行に必要な保護機能を備えた、強固で安全なインフラストラクチャ基盤を確立します。
生成 AI セキュリティアクセラレータ: Google の AI セキュリティスペシャリストから、Google のセキュア AI フレームワークを実装して生成 AI ワークロードを AI 固有のリスクから保護する方法について学びます。
セキュリティ強化: Infrastructure as Code（IaC）を使用して、安全な設計とエンドツーエンドの AI サービスのデプロイを実現します。
高度な脅威シミュレーション: 分離された Google Cloud 環境で実際の AI 脅威をシミュレートし、セキュリティチームをトレーニングするとともに、セキュリティインシデントへの対応の準備状況を評価します。

Google Cloud コンサルティングサービスへのお問い合わせ

AI を安全に活用できるよう、Mandiant のエキスパートがサポートします。

AI のレッドチーム編成: AI システムを保護する防御を検証し、AI システムに関係するアクティブな攻撃を検出して対応する能力を評価します。
AI の使用を保護する: AI モデルに基づいて構築されたアーキテクチャ、データ防御、アプリケーションを評価し、セキュリティフレームワークを使用して脅威モデルを開発します。

Mandiant のセキュリティエキスパートに問い合わせる

お客様の事例

このリスクカテゴリが、SAIF リスク自己評価のどの質問に関連するのかご関心がおありでしょうか？

トレーニング、チューニング、評価データにおける悪意のある変更や偶発的な変更を検出、削除、修復できますか？
すべてのモデル、データセット（トレーニング、チューニング、評価用）、関連する ML アーティファクト（コードなど）を網羅したインベントリはありますか？
すべてのモデル、データセット、関連する ML アーティファクトに対して、不正な読み取りやコピーを最小限に抑え、検出し、防止するための堅牢なアクセス制御を実装していますか？
モデルのトレーニング、チューニング、評価に使用されるすべてのデータ、モデル、コードが、モデルの開発中およびデプロイ中に検出されることなく改ざんされないことを保証できますか？
モデルの開発とデプロイに使用されるフレームワーク、ライブラリ、ソフトウェアシステム、ハードウェアコンポーネントに対し、セキュリティの脆弱性についての分析と保護を行っていますか？

ML サービス拒否攻撃

セキュリティは Google Cloud の重要な原則であり、多層防御アプローチを採用しています。堅牢な対策の一環として、分散型サービス拒否攻撃（DDoS）などのサービス中断から保護する強力な機能を備えています。また、Cloud Armor を通じて、お客様がこのような DDoS 攻撃やアプリケーションレイヤの攻撃から保護するために利用できる追加の防御も提供しています。

Google の組み込み型セキュリティおよびリスク管理ソリューションである Security Command Center は、予防制御と検出制御によって Gemini Enterprise Agent Platform アプリケーションを保護します。これには、Agent Platform のセキュリティイベントへの対応や、実際の攻撃者がエージェントプラットフォームのワークロードにアクセスして不正使用を試みる手法を再現する攻撃パスシミュレーションが含まれます。

AI アプリケーションの場合、お客様は Model Armor を利用して、基盤モデルのプロンプトとレスポンスを検査、ルーティング、保護することもできます。これにより、お客様はプロンプトインジェクション、ジェイルブレイク、有害コンテンツ、センシティブデータ漏洩などのリスクを軽減できます。Model Armor は、Agent Platform を含む Google Cloud の各種プロダクトと統合される予定です。Model Armor の早期アクセスについての詳細をご希望の場合は、こちらからご登録いただくか、オンデマンド動画をご覧ください。