ML.GENERATE_TEXT を繰り返し呼び出して割り当てエラーを処理する

このチュートリアルでは、BigQuery リモート推論スクリプトを使用して ML.GENERATE_TEXT 関数の呼び出しを繰り返す方法について説明します。関数を繰り返し呼び出すと、関数に適用される割り当てと上限を超えたために発生する再試行可能なエラーに対処できます。

BigQuery リモート推論スクリプトで使用されるパラメータや関数など、詳しくは、README ファイルをご覧ください。

このチュートリアルでは、次のタスクについて説明します。

• gemini-1.5-flash-001 モデルを介してリモートモデルを作成する。
• bigquery-public-data.hacker_news.full 一般公開データセットに基づいてサンプルデータのテーブルを作成する。
• structured_table_inference_loop_generate_text_example サンプル スクリプトを使用して、リモートモデルとサンプルデータを使用して ML.GENERATE_TEXT 関数の呼び出しを繰り返し行う。

必要な権限

• データセットを作成するには、bigquery.datasets.create Identity and Access Management（IAM）権限が必要です。

• 接続リソースを作成するには、次の IAM 権限が必要です。

  • bigquery.connections.create
  • bigquery.connections.get

• 接続のサービス アカウントに権限を付与するには、次の権限が必要です。

  • resourcemanager.projects.setIamPolicy

• モデルを作成するには、次の権限が必要です。

  • bigquery.jobs.create
  • bigquery.models.create
  • bigquery.models.getData
  • bigquery.models.updateData
  • bigquery.connections.delegate

• 推論を実行するには、次の権限が必要です。

  • bigquery.models.getData
  • bigquery.jobs.create

費用

このドキュメントでは、Google Cloud の次の課金対象のコンポーネントを使用します。

• BigQuery ML: You incur costs for the data that you process in BigQuery.
• Vertex AI: You incur costs for calls to the Vertex AI model.

料金計算ツールを使うと、予想使用量に基づいて費用の見積もりを生成できます。 新しい Google Cloud ユーザーは無料トライアルをご利用いただける場合があります。

BigQuery の料金の詳細については、BigQuery の料金をご覧ください。

Vertex AI の料金の詳細については、Vertex AI の料金をご覧ください。

始める前に

1. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

2. Make sure that billing is enabled for your Google Cloud project.

3. Enable the BigQuery, BigQuery Connection, and Vertex AI APIs.

   Enable the APIs

データセットを作成する

モデルとサンプルデータを保存する BigQuery データセットを作成します。

1. Google Cloud コンソールで [BigQuery] ページに移動します。

   [BigQuery] ページに移動

2. [エクスプローラ] ペインで、プロジェクト名をクリックします。

3. 「アクションを表示」> [データセットを作成] をクリックします。

4. [データセットを作成する] ページで、次の操作を行います。

   1. [データセット ID] に「sample」と入力します。

   2. [ロケーション タイプ] で [マルチリージョン] を選択してから、[US（米国の複数のリージョン）] を選択します。

   3. 残りのデフォルトの設定は変更せず、[データセットを作成] をクリックします。

接続を作成する

クラウド リソース接続を作成し、接続のサービス アカウントを取得します。前の手順で作成したデータセットと同じロケーションに接続を作成します。

次のオプションのいずれかを選択します。

コンソール

1. [BigQuery] ページに移動します。

   [BigQuery] に移動

2. 接続を作成するには、[追加] をクリックし、続いて [外部データソースへの接続] をクリックします。

3. [接続タイプ] リストで、[Vertex AI リモートモデル、リモート関数、BigLake（Cloud リソース）] を選択します。

4. [接続 ID] フィールドに接続の名前を入力します。

5. [接続を作成] をクリックします。

6. [接続へ移動] をクリックします。

7. [接続情報] ペインで、次の手順で使用するサービス アカウント ID をコピーします。

bq

1. コマンドライン環境で接続を作成します。

   bq mk --connection --location=REGION --project_id=PROJECT_ID \
       --connection_type=CLOUD_RESOURCE CONNECTION_ID
   

   --project_id パラメータは、デフォルト プロジェクトをオーバーライドします。

   次のように置き換えます。

   • REGION: 接続のリージョン
   • PROJECT_ID: 実際の Google Cloud プロジェクト ID
   • CONNECTION_ID: 接続の ID

   接続リソースを作成すると、BigQuery は、一意のシステム サービス アカウントを作成し、それを接続に関連付けます。

   トラブルシューティング: 次の接続エラーが発生した場合は、Google Cloud SDK を更新します。

   Flags parsing error: flag --connection_type=CLOUD_RESOURCE: value should be one of...
   

2. 後の手順で使用するため、サービス アカウント ID を取得してコピーします。

   bq show --connection PROJECT_ID.REGION.CONNECTION_ID
   

   出力は次のようになります。

   name                          properties
   1234.REGION.CONNECTION_ID     {"serviceAccountId": "[e-mail]"}
   

Terraform

main.tf ファイルに次のセクションを追加します。

 ## This creates a cloud resource connection.
 ## Note: The cloud resource nested object has only one output only field - serviceAccountId.
 resource "google_bigquery_connection" "connection" {
    connection_id = "CONNECTION_ID"
    project = "PROJECT_ID"
    location = "REGION"
    cloud_resource {}
}        

次のように置き換えます。

• CONNECTION_ID: 接続の ID
• PROJECT_ID: 実際の Google Cloud プロジェクト ID
• REGION: 接続のリージョン

接続のサービス アカウントに権限を付与する

Cloud Storage サービスと Vertex AI サービスにアクセスするために、接続のサービス アカウントに適切なロールを付与するには、次の操作を行います。

1. [IAM と管理] ページに移動します。

   [IAM と管理] に移動

2. [アクセスを許可] をクリックします。

3. [新しいプリンシパル] フィールドに、前の手順でコピーしたサービス アカウント ID を入力します。

4. [ロールを選択] メニューで、[Vertex AI] > [Vertex AI ユーザー] を選択します。

5. [保存] をクリックします。

テキスト生成モデルを作成する

Vertex AI gemini-1.5-flash-001 モデルを表すリモートモデルを作成します。

1. Google Cloud コンソールで [BigQuery] ページに移動します。

   [BigQuery] に移動

2. クエリエディタで、次のステートメントを実行します。

   CREATE OR REPLACE MODEL `sample.generate_text`
     REMOTE WITH CONNECTION `LOCATION.CONNECTION_ID`
     OPTIONS (ENDPOINT = 'gemini-1.5-flash-001');
   

   次のように置き換えます。

   • LOCATION: 接続のロケーション。
   • CONNECTION_ID: BigQuery 接続の ID。

     Google Cloud コンソールで接続の詳細を表示する場合、これは [接続 ID] に表示される完全修飾接続 ID の最後のセクションの値です。例: projects/myproject/locations/connection_location/connections/myconnection

   クエリが完了するまでに数秒かかります。完了後、generate_text モデルが [エクスプローラ] ペインの sample データセットに表示されます。このクエリでは CREATE MODEL ステートメントを使用してモデルを作成するため、クエリの結果はありません。

サンプルデータ テーブルを作成する

sample.hacker サンプルデータ テーブルを作成します。

1. Google Cloud コンソールで [BigQuery] ページに移動します。

   [BigQuery] に移動

2. クエリエディタで、次のステートメントを実行します。

   CREATE OR REPLACE TABLE sample.hacker AS
   SELECT * FROM `bigquery-public-data.hacker_news.full`
   WHERE type = 'story'
   AND text IS NOT NULL;
   

サンプル スクリプトを実行する

structured_table_inference_loop_generate_text_example サンプル スクリプトを実行します。このスクリプトは、sample.generate_text モデルと sample.hacker テーブルを使用して ML.GENERATE_TEXT 関数を繰り返し呼び出します。

1. ML.GENERATE_TEXT 関数を繰り返し呼び出す structured_table_inference_loop_generate_text_example サンプル スクリプトに移動します。
2. スクリプトの内容をコピーします。

3. Google Cloud コンソールで [BigQuery] ページに移動します。

   [BigQuery] に移動

4. クエリエディタにスクリプトの内容を貼り付け、[実行] をクリックします。このスクリプトは、ML.GENERATE_TEXT 関数の出力を含む sample.hacker_generated_text テーブルを作成します。

5. クエリの実行が完了したら、再試行可能なエラーを含む行が sample.hacker_generated_text テーブルにないことを確認します。クエリエディタで、次のステートメントを実行します。

   SELECT *
   FROM `sample.hacker_generated_text`
   WHERE ml_generate_text_status LIKE '%A retryable error occurred%';
   

   このクエリは、メッセージ No data to display を返します。

クリーンアップ

注意: プロジェクトを削除すると、次のような影響があります。

• プロジェクト内のすべてのものが削除されます。このドキュメントのタスクで既存のプロジェクトを使用した場合、それを削除すると、そのプロジェクトで行った他の作業もすべて削除されます。
• カスタム プロジェクト ID が失われます。このプロジェクトを作成したときに、将来使用するカスタム プロジェクト ID を作成した可能性があります。そのプロジェクト ID を使用した URL（たとえば、appspot.com）を保持するには、プロジェクト全体ではなくプロジェクト内の選択したリソースだけを削除します。

複数のアーキテクチャ、チュートリアル、クイックスタートを実施する予定がある場合は、プロジェクトを再利用すると、プロジェクトの割り当て上限を超えないようにすることができます。

1. In the Google Cloud console, go to the Manage resources page.

   Go to Manage resources

2. In the project list, select the project that you want to delete, and then click Delete.
3. In the dialog, type the project ID, and then click Shut down to delete the project.