MaaS 用の Vertex AI パートナー モデル

Vertex AI は、Google パートナーが開発したモデルのキュレーション リストをサポートしています。パートナー モデルは、Vertex AI で Model as a Service（MaaS）として使用でき、マネージド API として提供されます。パートナー モデルを使用する場合、リクエストは引き続き Vertex AI エンドポイントに送信されます。パートナー モデルはサーバーレスであるため、インフラストラクチャのプロビジョニングや管理は必要ありません。

パートナー モデルは Model Garden で見つけることができます。Model Garden を使用してモデルをデプロイすることもできます。詳細については、Model Garden で AI モデルを確認するをご覧ください。利用可能な各パートナー モデルの情報は Model Garden のモデルカードで確認できますが、このガイドでは、Vertex AI で MaaS として機能するサードパーティ モデルのみを説明しています。

Anthropic Claude モデルと Mistral モデルは、Vertex AI で使用できるサードパーティのマネージド モデルの例です。

容量保証付きの Vertex AI パートナー モデルの料金

Google は、一部のパートナー モデル向けにプロビジョンド スループットを提供しており、これにより、固定料金でモデルのスループット容量を確保できます。利用者は、スループット容量と、その容量を確保するリージョンを選択できます。プロビジョンド スループットのリクエストは、標準の従量課金制リクエストよりも優先されるため、可用性が向上します。システムが過負荷状態でも、そのスループットが確保したスループット容量内であれば、リクエストは完了できます。詳細やサービスへの登録については、営業担当者にお問い合わせください。

ユーザーにパートナー モデルへのアクセス権を付与する

パートナー モデルを有効にしてプロンプト リクエストを実行するには、Google Cloud 管理者が必要な権限を設定し、組織のポリシーで必要な API の使用が許可されていることを確認する必要があります。

パートナー モデルの使用に必要な権限を設定する

パートナー モデルを使用するには、次のロールと権限が必要です。

  • Consumer Procurement Entitlement 管理者 Identity and Access Management（IAM）ロールが必要です。このロールを付与されたユーザーなら誰でも、Model Garden でパートナー モデルを有効にできます。

  • aiplatform.endpoints.predict 権限が必要です。この権限は、Vertex AI ユーザー IAM ロールに含まれています。詳細については、Vertex AI ユーザーとアクセス制御をご覧ください。

コンソール

  1. Consumer Procurement Entitlement 管理者 IAM ロールをユーザーに付与するには、[IAM] ページに移動します。

    [IAM] に移動

  2. [プリンシパル] 列で、Anthropic Claude モデルへのアクセスを有効にするユーザー プリンシパルを見つけて、その行の [プリンシパルを編集] をクリックします。

  3. 権限の編集ペインで、[ 別のロールを追加] をクリックします。

  4. [ロールを選択] で、[Consumer Procurement Entitlement 管理者] を選択します。

  5. 権限の編集ペインで、[ 別のロールを追加] をクリックします。

  6. [ロールを選択] で、[Vertex AI ユーザー] を選択します。

  7. [保存] をクリックします。

gcloud

  1. In the Google Cloud console, activate Cloud Shell.

    Activate Cloud Shell

  2. Model Garden でパートナー モデルを有効にするために必要な Consumer Procurement Entitlement 管理者のロールを付与します。

    gcloud projects add-iam-policy-binding  PROJECT_ID \
--member=PRINCIPAL --role=roles/consumerprocurement.entitlementManager

  3. プロンプト リクエストを行うために必要な aiplatform.endpoints.predict 権限を含む Vertex AI ユーザーロールを付与します。

    gcloud projects add-iam-policy-binding  PROJECT_ID \
--member=PRINCIPAL --role=roles/aiplatform.user

    PRINCIPAL は、プリンシパルの ID に置き換えます。ID の形式は user|group|serviceAccount:email または domain:domain です（例: user:cloudysanfrancisco@gmail.com、group:admins@example.com、serviceAccount:test123@example.domain.com、domain:example.domain.com）。

    以下を含むポリシー バインディングのリストが出力されます。

    - members:
  - user:PRINCIPAL
  role: roles/roles/consumerprocurement.entitlementManager

    詳細については、単一のロールを付与すると gcloud projects add-iam-policy-binding をご覧ください。

パートナー モデルへのアクセスに関する組織のポリシーを設定する

パートナー モデルを有効にするには、組織のポリシーで次の API を許可する必要があります。

  • Cloud Commerce Consumer Procurement API - cloudcommerceconsumerprocurement.googleapis.com
  • Commerce Agreement API - commerceagreement.googleapis.com

組織でサービスの使用を制限するように組織のポリシーを設定している場合、組織管理者は組織のポリシーを設定することで、cloudcommerceconsumerprocurement.googleapis.com と commerceagreement.googleapis.com が許可されていることを確認する必要があります。

また、Model Garden でのモデルの使用を制限する組織のポリシーがある場合は、ポリシーでパートナー モデルへのアクセスを許可する必要があります。詳細については、モデルへのアクセスを制御するをご覧ください。