Google Cloud サービスとの Model Armor の統合

Model Armor は、さまざまな Google Cloud サービスと統合されています。

  • Google Kubernetes Engine(GKE)とサービス拡張機能
  • Vertex AI

GKE と Service Extensions

Model Armor は、Service Extensions を介して GKE と統合できます。サービス拡張機能を使用すると、内部(Google Cloud サービス)または外部(ユーザー管理)サービスを統合してトラフィックを処理できます。GKE 推論ゲートウェイなどのアプリケーション ロードバランサでサービス拡張機能を構成して、GKE クラスタとの間のトラフィックをスクリーニングできます。これにより、AI モデルとのすべてのやり取りが Model Armor で保護されていることを確認できます。詳細については、GKE との統合をご覧ください。

Vertex AI

Model Armor は、フロア設定またはテンプレートを使用して、Vertex AI に直接統合できます。この統合では、Gemini モデルのリクエストとレスポンスをスクリーニングし、フロア設定に違反するものをブロックします。この統合により、Vertex AI の Gemini API 内で generateContent メソッドのプロンプトとレスポンスが保護されます。プロンプトとレスポンスのサニタイズ結果を確認するには、Cloud Logging を有効にする必要があります。詳細については、Vertex AI との統合をご覧ください。

始める前に

API を有効にする

Model Armor を使用するには、Model Armor API を有効にする必要があります。

コンソール

  1. Enable the Model Armor API.

    Enable the API

  2. Model Armor を有効にするプロジェクトを選択します。

gcloud

始める前に、Google Cloud CLI で Model Armor API を使用して、次の処理を行います。

  1. In the Google Cloud console, activate Cloud Shell.

    Activate Cloud Shell

    At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.

  2. 次のコマンドを実行して、Model Armor サービスの API エンドポイントを設定します。

    gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"

    LOCATION は、Model Armor を使用するリージョンに置き換えます。

  3. 次のコマンドを実行して、Model Armor を有効にします。

      gcloud services enable modelarmor.googleapis.com --project=PROJECT_ID
       

    PROJECT_ID は、プロジェクトの ID に置き換えます。

    Model Armor を統合する際のオプション

    Model Armor には、次の統合オプションがあります。各オプションには、異なる機能が用意されています。

    統合オプション ポリシーの適用者/検出器 検出を構成する 検査のみ 検査してブロック モデルとクラウドのカバレッジ
    REST API 検出項目 テンプレートのみを使用する すべてのモデルとすべてのクラウド
    Vertex AIプレビュー インライン適用 フロア設定またはテンプレートを使用する Google Cloudの Gemini(非ストリーミング)
    Google Kubernetes Engineプレビュー インライン適用 テンプレートのみを使用する Google Cloudの Open AI 形式のモデル

    REST API 統合オプションの場合、Model Armor はテンプレートのみを使用して検出器として機能します。つまり、潜在的なポリシー違反を積極的に防止するのではなく、主に事前定義されたテンプレートに基づいて特定して報告します。

    Vertex AI インテグレーション オプションを使用すると、Model Armor はフロア設定またはテンプレートを使用してインライン適用を行います。つまり、Model Armor は、アプリケーション コードを変更することなく、プロセスに直接介入してポリシーを積極的に適用します。

    Vertex AI と同様に、GKE インテグレーション オプションでも、テンプレートのみを使用してインライン適用が可能です。これは、Model Armor がアプリケーション コードを変更することなく、推論ゲートウェイ内でポリシーを直接適用できることを示しています。