AI Protection の発表: AI 時代のセキュリティ

※この投稿は米国時間 2025 年 3 月 6 日に、Google Cloud blog に投稿されたものの抄訳です。

AI の使用が増える中で、セキュリティは依然として最大の懸念事項となっており、組織が AI の急速な導入に伴うリスクに不安を抱えているという話をよく耳にします。Google Cloud は、お客様が安全でコンプライアンスとプライバシーに配慮した方法で AI を自信を持って構築、デプロイできるよう全力で支援しています。

本日は、AI のライフサイクル全体でリスクを軽減できる新しいソリューションをご紹介します。このたび、AI Protection が発表されました。これは、使用するプラットフォームに関係なく、クラウドやモデルを横断して AI ワークロードとデータを保護する機能のセットです。

AI Protection は、以下によって AI リスクの包括的な管理をサポートします。

1. 環境内の AI インベントリの検出と、潜在的な脆弱性の評価

2. 制御、ポリシー、ガードレールによる AI アセットの保護

3. 検出、調査、対応の機能による AI システムに対する脅威の管理

AI Protection は、Google Cloud のマルチクラウド リスク管理プラットフォームである Security Command Center（SCC）と統合されています。それによりセキュリティ チームは AI の状況を 1 か所で把握し、AI リスクを他のクラウドリスクと関連付けて総合的に管理できます。

AI のインベントリの検出

効果的な AI リスク管理は、環境内において AI がどこで、どのように使用されているかを包括的に理解することから始まります。Google Cloud の機能を利用することで、モデル、アプリケーション、データの使用、およびそれらの関係を含む AI アセットを自動的に検出し、カタログ化できます。

AI アプリケーションを支えるデータと、そのデータがどのように保護されているかを理解することは非常に重要です。Sensitive Data Protection（SDP）によって自動データ検出の範囲が Vertex AI データセットに拡張され、トレーニング データとチューニング データの機密性とデータ型を把握できるようになりました。また SDP は、トレーニング データのデータ型と機密性に関する詳細な分析情報を提供するデータ プロファイルを生成することもできます。

機密データが存在する場所がわかると、AI Protection は Security Command Center の仮想レッド チーミングを使用して、AI 関連の有害な組み合わせと、脅威アクターがこの重要データを侵害するために利用する可能性のある経路を特定し、脆弱性を修正してポスチャーを調整するための手順を推奨します。

AI アセットの保護

AI Protection の中核機能である Model Armor の一般提供が開始されました。この機能は、プロンプト インジェクション、ジェイルブレイク、データ損失、悪意のある URL、不快なコンテンツからお客様を保護します。Model Armor は、複数のクラウドにわたる幅広いモデルをサポートできるため、使用するモデルやプラットフォームが将来的に変化しても、一貫した保護を提供できます。

デベロッパーは、REST API を使用するか、Apigee との統合を介して、Model Armor のプロンプトと回答のスクリーニングをアプリケーションに簡単に統合できるようになりました。Vertex AI と Google Cloud ネットワーキング プロダクトのインテグレーションにより、アプリを変更することなく Model Armor をインラインでデプロイできる機能が近日提供予定です。

Dun & Bradstreet のチーフ サイバーセキュリティおよびテクノロジー リスク責任者である Jay DePaul 氏は次のように述べています。「Model Armor を使用している理由として、プロンプト インジェクション、ジェイルブレイク、機密データの漏洩に対する堅牢な保護だけでなく、Security Command Center から一元化されたセキュリティ ポスチャーが提供されることが挙げられます。これにより、開発チームやアプリ自体のエクスペリエンスに影響を与えることなく、潜在的な脆弱性を迅速に特定し、優先順位を付けて対応できます。Model Armor は、AI アプリケーションを保護するうえで非常に重要であり、AI に関するセキュリティ上の脅威とセキュリティに関するその他の検出結果を SCC 内で一元的にモニタリングできることは画期的です。」

組織は、Security Command Center でポスチャーを適用することで、AI Protection を使用して Vertex AI アプリケーションのセキュリティを強化できます。これらのポスチャー管理は、Vertex AI アーキテクチャのファーストパーティ ナレッジに基づいて設計されています。安全なリソース構成を定義し、ドリフトや不正な変更の防止を支援します。

AI に対する脅威の管理

AI Protection は、Google と Mandiant のセキュリティ インテリジェンスと調査を運用化し、AI システムの防御を支援します。Security Command Center の検出機能を使用して、AI ワークロードの初期アクセス試行、権限昇格、永続化試行を検出できます。最新かつ最前線のインテリジェンスに基づく、AI Protection の新しい検出機能がまもなくリリースされます。これにより、基盤モデルの乗っ取りなどのランタイムの脅威を特定、管理できるようになります。

IDC のリサーチ ディレクターである Grace Trinidad 博士は次のように述べています。「AI を活用したソリューションがますます一般的になるにつれ、AI システムの保護は、基本的なデータ保護よりも優先度が高くなっています。AI セキュリティはその性質上、モデルの完全性、データの来歴、コンプライアンス、堅牢なガバナンスを含む包括的な戦略を必要とします。

断片的なソリューションでは重大な脆弱性が露呈する可能性があり、組織は敵対的攻撃やデータ ポイズニングなどの脅威にさらされ、セキュリティ チームの負担がさらに増えることになります。ライフサイクルに焦点を当てた包括的なアプローチにより、組織は生成 AI によって浮上する多面的なリスクを効果的に軽減し、拡大を続けるセキュリティ ワークロードを管理できます。包括的なアプローチを採用することで、Google Cloud は AI の保護を簡素化し、顧客のエクスペリエンスを向上させています。」

最前線の専門知識による AI Protection の補完

Mandiant の AI セキュリティ コンサルティング ポートフォリオは、クラウドやプラットフォームをまたがる AI システムの堅牢なセキュリティ対策の評価、実装を支援するサービスを提供します。コンサルタントは、AI 実装のエンドツーエンドのセキュリティを評価し、AI システムを強化する機会を推奨できます。また、最前線の業務で確認された AI サービスに対する最新の攻撃に関する情報に基づき、AI のレッド チーミングも提供されます。

構築に安全な基盤

お客様にとっては、AI ワークロードの構築と実行に Google Cloud のインフラストラクチャを使用することもメリットとなります。安全性を重視して設計され、デフォルトでセキュリティを確保する Google Cloud のクラウド プラットフォームは、何重もの安全保護対策、暗号化、厳格なソフトウェア サプライ チェーン管理によって構築されています。

AI ワークロードが規制の対象となるお客様向けには、Assured Workloads が提供されています。これにより、データ所在地や顧客管理の暗号化などの制御を適用する厳格なポリシー ガードレールを適用して、管理された環境を簡単に構築できます。監査マネージャーは、規制や新しい AI 標準を遵守している証拠を生成できます。Confidential Computing は、処理パイプライン全体でデータを保護し、システム内の特権ユーザーや悪意のあるユーザーによる不正アクセスのリスクを軽減できます。

さらに、従業員による AI の無許可使用（シャドー AI）の検出が必要な組織では、Chrome Enterprise Premium がエンドユーザー アクティビティを可視化するだけでなく、生成 AI アプリケーションにおける機密データの偶発的または意図的な漏洩を防ぐことができます。

次のステップ

Google Cloud は、お客様の組織による AI イノベーションの保護を支援したいと考えています。Enterprise Strategy Group のショーケース ペーパーで詳細をご確認ください。また、3 月 12 日に開催されるオンラインの Security Talks イベントにもご参加ください。

Security Command Center の AI Protection を評価し、サブスクリプションのオプションを確認するには、Google Cloud の営業担当者または Google Cloud 認定パートナーまでお問い合わせください。

今後もさらに優れた機能がリリースされる予定です。4 月 9～11 日にラスベガスで開催される Google Cloud Next では、AI Protection の詳細と、Google Cloud が AI ソリューションの安全な開発とデプロイをどのように支援するかについてお話しします。

-Google Cloud Security、プロダクト管理担当シニア ディレクター Archana Ramamoorthy