Vertex AI を使用してモデルを評価する

このページでは、Vertex AI を使用してモデルを評価する方法について説明します。概要については、Vertex AI でのモデル評価をご覧ください。

前提条件

  1. プロジェクトと開発環境を設定するの手順に沿って操作します。さらに、次のサービスを有効にします。

  2. Vertex AI は、AutoML またはカスタム トレーニングでトレーニングされたモデルを評価できます。Google Cloud コンソール ガイドでは、トレーニング済みのモデルが Vertex AI Model Registry にインポートされている必要があります。

  3. テスト データセットを BigQuery または Cloud Storage にアップロードします。テスト データセットには、予測で想定される実際の結果であるグラウンド トゥルースが含まれている必要があります。ファイルまたはデータセット ID へのリンクを取得します。

  4. BigQuery テーブルまたは Cloud Storage URI 形式のバッチ予測出力を取得します。

  5. デフォルトの Compute Engine サービス アカウントに次の IAM 権限が付与されていることを確認します。

    • Vertex AI 管理者(aiplatform.admin
    • Vertex AI サービス エージェント(aiplatform.serviceAgent
    • ストレージ オブジェクト管理者(storage.objectAdmin
    • Dataflow ワーカー(dataflow.worker
    • BigQuery データ編集者(bigquery.dataEditor)(BigQuery テーブルの形式でデータを提供する場合にのみ必要)

評価を作成する

コンソール

  1. Google Cloud コンソールで、[Vertex AI] の [モデル] ページに移動します。

    [モデル] ページに移動

  2. 評価するモデルの名前をクリックします。

  3. モデルのバージョン番号をクリックします。

  4. [評価] タブで [評価を作成] をクリックします。

  5. [評価名] を入力します。

  6. 分類や回帰など、[目的] を選択します。

  7. [評価ターゲットの列名] を入力します。これは、モデルをトレーニングして予測するトレーニング データの列です。

  8. [ソースの選択] で、テスト データセットのソースを選択します。

    1. [BigQuery テーブル] に、BigQuery パスを入力します。

    2. [Cloud Storage のファイル] に、Cloud Storage のパスを入力します。

  9. [バッチ予測の出力] で、出力形式を選択します。

    1. BigQuery のパスまたは Cloud Storage URI を入力します。
  10. [評価を開始] をクリックします。

Python

Vertex AI Pipelines で Vertex AI API モデル評価ワークフローを表示するには、次のモデルタイプのサンプル ノートブックをご覧ください。

Python SDK

Vertex AI でモデルを評価するための SDK は試験運用版です。試験運用版に登録するには、オンボーディング フォームに記入してください。

モデル評価ジョブが完了すると Vertex AI はメール通知を自動的に送信します。

評価指標を表示する

コンソール

  1. Google Cloud コンソールで、[Vertex AI] の [モデル] ページに移動します。

    [モデル] ページに移動

  2. モデル バージョンに移動します。

  3. [評価] タブで指標を表示します。

Python

Vertex AI Pipelines で Vertex AI API モデル評価ワークフローを表示するには、次のモデルタイプのサンプル ノートブックをご覧ください。

Python SDK

Vertex AI でモデルを評価するための SDK は試験運用版です。試験運用版に登録するには、オンボーディング フォームに記入してください。

評価指標を比較する

さまざまなモデル、モデル バージョン、評価ジョブ間で評価結果を比較できます。モデルのバージョン管理の詳細については、Model Registry のバージョニングをご覧ください。

比較できるのは同じタイプのモデル(分類、回帰、予測など)のみです。異なるモデルを比較する場合は、すべてのモデル バージョンが同じタイプであることが必要です。

一度に比較できる評価は 5 件までです。

  1. Google Cloud コンソールで Vertex AI Model Registry に移動します。

    [モデル] ページに移動

  2. モデルまたはモデル バージョンに移動します。

    • [モデル] ページで異なる各モデルを比較するには、比較するモデルの名前の横にあるチェックボックスをオンにします。

    • 異なる各モデル バージョンを比較するには:

      1. [モデル] ページでモデルの名前をクリックして、モデル バージョンのリストを開きます。

      2. 比較するバージョンの横にあるチェックボックスをオンにします。

    • 同じモデル バージョンの評価ジョブ間で比較するには:

      1. [モデル] ページでモデルの名前をクリックして、モデル バージョンのリストを開きます。

      2. バージョン番号をクリックします。

      3. 比較する評価ジョブの横にあるチェックボックスをオンにします。

  3. [Compare] をクリック

次のステップ