中断のない安全な AI イノベーションを実現

2025 年版「The State of AI Security and Governance」レポートによると、企業が挙げる主なリスクは、機密データの漏洩（52%）と規制遵守（50%）です。その他の新たな脅威としては、シャドー AI、プロンプト インジェクション、モデルの盗難などがあります。包括的に防御するには、データ、モデル、ユーザー インタラクション レイヤを同時に保護する必要があります。

シャドー AI とは、従業員が IT ガバナンスを回避して、正式に許可されていないモデルやデータセットを使用することです。これを検出するには、自動検出ツールが必要です。Google Cloud の Security Command Center は、すべての AI アセット（未承認の「シャドー」モデルを含む）のリアルタイムのインベントリを提供します。これにより、セキュリティ チームは未承認のモデルに一貫したセキュリティ ポリシーを適用するために必要な可視性を得ることができ、ビジネス ワークフローを中断することなくリスクを軽減できます。

スキルギャップはよくある障壁ですが（53% の組織が回答）、すべてをゼロから構築する必要はありません。Google Cloud は、既存のプラットフォームに AI セキュリティを直接組み込んでいます。Security Command Center などのツールは、AI を活用して脅威を要約し、修正を推奨します。これにより、既存のセキュリティ チームはデータ サイエンスの専門家でなくても AI リスクを管理できます。

エージェント型 AI を保護するには、自律エージェントを高価値の ID として扱う必要があります。標準ユーザーとは異なり、エージェントには「最小権限」を適用する厳格な Identity and Access Management（IAM）ポリシーが必要です。Google Cloud は、エージェントのインタラクション パスをマッピングし、特定のエージェント ID を割り当てることで、エージェントが特定のタスクに必要なデータにのみアクセスできるようにします。

はい。Google Cloud は、マルチモデルのセキュリティ戦略をサポートしています。Gemini のようなファーストパーティ モデルを使用している場合でも、Vertex AI でサードパーティのオープンソース モデルを使用している場合でも、Model Armor を使用して統合ランタイム ガードレールを適用できます。これにより、基盤となるモデル プロバイダに関係なく、プロンプト インジェクションやデータ漏洩からスタックを保護できます。

Model Armor は、プロンプト インジェクションと機密データの漏洩をモデルに到達する前にフィルタリングする専用のセキュリティ レイヤを提供し、カスタムコードによるインターセプタの必要性を排除します。悪意のあるプロンプト（モデルのジェイルブレイクの試みなど）を検出してブロックし、安全でないコンテンツがアプリケーションに到達する前にフィルタリングすることで、データとブランド評価の両方を保護します。

データ漏洩を防ぐには、「多層防御」アプローチが必要です。Google Cloud は、処理中（使用中）のデータを暗号化する Confidential Computing と、モデルの回答から機密情報（PII など）を自動的にスキャンして秘匿化するデータ損失防止（DLP）コントロールを提供します。これにより、機密情報がユーザーに表示されるのを防ぎます。

規制対象の業界では、データ主権とは、機密データを特定の物理的境界およびデジタル境界内に保持することを意味します。Google Sovereign Cloud を利用すると、データ所在地と暗号鍵（External Key Manager を使用）を完全に制御しながら AI を導入し、GDPR や現地のデータ法などの地域規制を確実に遵守できます。

セキュア AI フレームワーク（SAIF）は、責任ある AI の導入に関する Google の青写真であり、組織が AI 開発ライフサイクルにセキュリティを統合できるように設計されています。業界標準に準拠しており、リスクの評価、制御の自動化、AI イノベーションのスピードに合わせてスケーリングす可能なセキュリティ文化の構築を支援します。

セキュリティは技術的な防御（ファイアウォールや暗号化など）に重点を置きますが、ガバナンスはポリシー、説明責任、リスク管理に重点を置きます。「中断のない安全な AI イノベーションを実現」ガイドで強調されているように、AI の導入を成功させるには、制御を強化するための堅牢なセキュリティ ツールと、AI の意思決定とデータ使用の責任者を定義するガバナンス フレームワークの両方が必要です。