使用 text-bison 模型和 ML.GENERATE_TEXT 函数生成文本

本教程介绍如何创建基于 text-bison@002 大语言模型的远程模型，然后将该模型与 ML.GENERATE_TEXT 函数结合使用，以执行多个文本生成任务。本教程使用 bigquery-public-data.imdb.reviews 公共表。

重要提示： text-bison 模型将于 2025 年 4 月停用。如果您拥有使用此模型的远程模型，请尽快迁移到 Gemini 1.5 模型。

所需权限

• 如需创建数据集，您需要拥有 bigquery.datasets.create Identity and Access Management (IAM) 权限。

• 如需创建连接资源，您需要以下 IAM 权限：

  • bigquery.connections.create
  • bigquery.connections.get

• 如需向连接的服务账号授予权限，您需要以下权限：

  • resourcemanager.projects.setIamPolicy

• 如需创建模型，您需要以下权限：

  • bigquery.jobs.create
  • bigquery.models.create
  • bigquery.models.getData
  • bigquery.models.updateData
  • bigquery.connections.delegate

• 如需运行推理，您需要以下权限：

  • bigquery.models.getData
  • bigquery.jobs.create

费用

在本文档中，您将使用 Google Cloud 的以下收费组件：

• BigQuery ML: You incur costs for the data that you process in BigQuery.
• Vertex AI: You incur costs for calls to the Vertex AI service that's represented by the remote model.

您可使用价格计算器根据您的预计使用情况来估算费用。 Google Cloud 新用户可能有资格申请免费试用。

如需详细了解 BigQuery 价格，请参阅 BigQuery 文档中的 BigQuery 价格。

如需详细了解 Vertex AI 价格，请参阅 Vertex AI 价格页面。

准备工作

1. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

2. Make sure that billing is enabled for your Google Cloud project.

3. Enable the BigQuery, BigQuery Connection, and Vertex AI APIs.

   Enable the APIs

创建数据集

创建 BigQuery 数据集以存储您的机器学习模型：

1. 在 Google Cloud 控制台中，转到 BigQuery 页面。

   转到 BigQuery 页面

2. 在探索器窗格中，点击您的项目名称。

3. 点击 查看操作 > 创建数据集。

   

4. 在创建数据集页面上，执行以下操作：

   • 在数据集 ID 部分，输入 bqml_tutorial。

   • 在位置类型部分，选择多区域，然后选择 US (multiple regions in United States)（美国[美国的多个区域]）。

     公共数据集存储在 US 多区域中。为简单起见，请将数据集存储在同一位置。

   • 保持其余默认设置不变，然后点击创建数据集。

     

创建连接

创建 Cloud 资源连接并获取连接的服务账号。 在与上一步中创建的数据集相同的位置创建连接。

从下列选项中选择一项：

控制台

1. 转到 BigQuery 页面。

   转到 BigQuery

2. 如需创建连接，请点击 添加，然后点击与外部数据源的连接。

3. 在连接类型列表中，选择 Vertex AI 远程模型、远程函数和 BigLake（Cloud 资源）。

4. 在连接 ID 字段中，输入连接的名称。

5. 点击创建连接。

6. 点击转到连接。

7. 在连接信息窗格中，复制服务账号 ID 以在后续步骤中使用。

bq

1. 在命令行环境中，创建连接：

   bq mk --connection --location=REGION --project_id=PROJECT_ID \
       --connection_type=CLOUD_RESOURCE CONNECTION_ID

   --project_id 参数会替换默认项目。

   替换以下内容：

   • REGION：您的连接区域
   • PROJECT_ID：您的 Google Cloud 项目 ID
   • CONNECTION_ID：您的连接的 ID

   当您创建连接资源时，BigQuery 会创建一个唯一的系统服务账号，并将其与该连接相关联。

   问题排查：如果您收到以下连接错误，请更新 Google Cloud SDK：

   Flags parsing error: flag --connection_type=CLOUD_RESOURCE: value should be one of...
   

2. 检索并复制服务账号 ID 以在后续步骤中使用：

   bq show --connection PROJECT_ID.REGION.CONNECTION_ID

   输出类似于以下内容：

   name                          properties
   1234.REGION.CONNECTION_ID     {"serviceAccountId": "[e-mail]"}
   

Terraform

使用 google_bigquery_connection 资源。

注意：如需使用 Terraform 创建 BigQuery 对象，您必须启用 Cloud Resource Manager API。

如需向 BigQuery 进行身份验证，请设置应用默认凭据。如需了解详情，请参阅为客户端库设置身份验证。

以下示例会在 US 区域中创建一个名为 my_cloud_resource_connection 的 Cloud 资源连接：

# This queries the provider for project information.
data "google_project" "default" {}

# This creates a cloud resource connection in the US region named my_cloud_resource_connection.
# Note: The cloud resource nested object has only one output field - serviceAccountId.
resource "google_bigquery_connection" "default" {
  connection_id = "my_cloud_resource_connection"
  project       = data.google_project.default.project_id
  location      = "US"
  cloud_resource {}
}

如需在 Google Cloud 项目中应用 Terraform 配置，请完成以下部分中的步骤。

准备 Cloud Shell

1. 启动 Cloud Shell。

2. 设置要在其中应用 Terraform 配置的默认 Google Cloud 项目。

   您只需为每个项目运行一次以下命令，即可在任何目录中运行它。

   export GOOGLE_CLOUD_PROJECT=PROJECT_ID

   如果您在 Terraform 配置文件中设置显式值，则环境变量会被替换。

准备目录

每个 Terraform 配置文件都必须有自己的目录（也称为“根模块”）。

1. 在 Cloud Shell 中，创建一个目录，并在该目录中创建一个新文件。文件名必须具有 .tf 扩展名，例如 main.tf。在本教程中，该文件称为 main.tf。

   mkdir DIRECTORY && cd DIRECTORY && touch main.tf

2. 如果您按照教程进行操作，可以在每个部分或步骤中复制示例代码。

   将示例代码复制到新创建的 main.tf 中。

   （可选）从 GitHub 中复制代码。如果端到端解决方案包含 Terraform 代码段，则建议这样做。

3. 查看和修改要应用到您的环境的示例参数。
4. 保存更改。
5. 初始化 Terraform。您只需为每个目录执行一次此操作。

   terraform init

   （可选）如需使用最新的 Google 提供程序版本，请添加 -upgrade 选项：

   terraform init -upgrade

应用更改

1. 查看配置并验证 Terraform 将创建或更新的资源是否符合您的预期：

   terraform plan

   根据需要更正配置。

2. 通过运行以下命令并在提示符处输入 yes 来应用 Terraform 配置：

   terraform apply

   等待 Terraform 显示“应用完成！”消息。

3. 打开您的 Google Cloud 项目以查看结果。在 Google Cloud 控制台的界面中找到资源，以确保 Terraform 已创建或更新它们。

注意：Terraform 示例通常假定您的 Google Cloud 项目中启用了所需的 API。

向连接的服务账号授予权限

向连接的服务账号授予 Vertex AI User 角色。您必须在您在准备工作部分创建或选择的项目中授予此角色。在其他项目中授予此角色会导致错误 [e-mail] does not have the permission to access resource。

如需授予该角色，请按以下步骤操作：

1. 前往 IAM 和管理页面。

   转到“IAM 和管理”

2. 点击 授予访问权限。

3. 在新的主账号字段中，输入您之前复制的服务账号 ID。

4. 在选择角色字段中，选择 Vertex AI，然后选择 Vertex AI User 角色。

5. 点击保存。

创建远程模型

创建表示托管 Vertex AI 大语言模型 (LLM) 的远程模型：

SQL

1. 在 Google Cloud 控制台中，转到 BigQuery 页面。

   转到 BigQuery

2. 在查询编辑器中，运行以下语句：

   CREATE OR REPLACE MODEL `bqml_tutorial.llm_model`
   REMOTE WITH CONNECTION `LOCATION.CONNECTION_ID`
   OPTIONS (ENDPOINT = 'text-bison@002');

   替换以下内容：

   • LOCATION：连接位置
   • CONNECTION_ID：BigQuery 连接的 ID

     当您在 Google Cloud 控制台中查看连接详情时，它是连接 ID 中显示的完全限定连接 ID 的最后一部分中的值，例如 projects/myproject/locations/connection_location/connections/myconnection

   查询需要几秒钟才能完成，之后模型 llm_model 会显示在探索器窗格的 bqml_tutorial 数据集中。由于查询使用 CREATE MODEL 语句来创建模型，因此没有查询结果。

BigQuery DataFrame

在尝试此示例之前，请按照《BigQuery 快速入门：使用 BigQuery DataFrames》中的 BigQuery DataFrames 设置说明进行操作。如需了解详情，请参阅 BigQuery DataFrames 参考文档。

如需向 BigQuery 进行身份验证，请设置应用默认凭据。 如需了解详情，请参阅为本地开发环境设置 ADC。

import bigframes
from bigframes.ml.llm import PaLM2TextGenerator

bigframes.options.bigquery.project = PROJECT_ID
bigframes.options.bigquery.location = LOCATION

model = PaLM2TextGenerator()

执行关键字提取

使用远程模型和 ML.GENERATE_TEXT 函数对 IMDB 电影评论执行关键字提取：

SQL

1. 在 Google Cloud 控制台中，转到 BigQuery 页面。

   转到 BigQuery

2. 在查询编辑器中，输入以下语句，对五项电影评论执行关键字提取：

   SELECT
   ml_generate_text_result['predictions'][0]['content'] AS generated_text,
   ml_generate_text_result['predictions'][0]['safetyAttributes']
     AS safety_attributes,
   * EXCEPT (ml_generate_text_result)
   FROM
   ML.GENERATE_TEXT(
     MODEL `bqml_tutorial.llm_model`,
     (
       SELECT
         CONCAT('Extract the key words from the text below: ', review) AS prompt,
         *
       FROM
         `bigquery-public-data.imdb.reviews`
       LIMIT 5
     ),
     STRUCT(
       0.2 AS temperature,
       100 AS max_output_tokens));

   输出类似于以下内容，为清楚起见，省略了非生成的列：

   +----------------------------------------+---------------------------------------------+-------------------------+----------------------------+-----+
   | generated_text                         | safety_attributes                           | ml_generate_text_status | prompt                     | ... |
   +----------------------------------------+---------------------------------------------+-------------------------+----------------------------+-----+
   | " Keywords:\n- British Airways\n-      | {"blocked":false,"categories":              |                         | Extract the key words from |     |
   | acting\n- story\n- kid\n- switch off"  | ["Death, Harm & Tragedy","Derogatory",      |                         | the text below: I had to   |     |
   |                                        | "Finance","Health","Insult",                |                         | see this on the British    |     |
   |                                        | "Profanity","Religion & Belief",            |                         | Airways plane. It was      |     |
   |                                        | "Sexual","Toxic"]                           |                         | terribly bad acting and    |     |
   |                                        | "safetyRatings":[{"category":               |                         | a dumb story. Not even     |     |
   |                                        | "Dangerous Content","probabilityScore"...   |                         | a kid would enjoy this...  |     |
   +----------------------------------------+---------------------------------------------+-------------------------+----------------------------+-----+
   | " - Family movie\n- ITV station\n- THE | {"blocked":false,"categories":              |                         | Extract the key words from |     |
   | REAL HOWARD SPITZ\n- Roald Dahl\n-     | ["Death, Harm & Tragedy","Derogatory",      |                         | the text below: This is    |     |
   | DOCTOR WHO\n- Pulp fiction\n- Child    | "Health","Illicit Drugs","Insult",          |                         | a family movie that was    |     |
   | abuse\n- KINDERGARTEN COP\n- PC\n-     | "Legal","Profanity","Public Safety",        |                         | broadcast on my local      |     |
   | Children's author\n- Vadim Jean\n-     | "Sexual","Toxic","Violent"],                |                         | ITV station at 1.00 am a   |     |
   | Haphazard\n- Kelsey Grammar\n-         | "safetyRatings":[{"category":               |                         | couple of nights ago.      |     |
   | Dead pan\n- Ridiculous camera angles"  | "Dangerous Content","probabilityScore"...   |                         | This might be a strange... |     |
   +----------------------------------------+---------------------------------------------+-------------------------+----------------------------+-----+
   

   结果包括以下列：

   • generated_text：生成的文本。
   • safety_attributes：安全属性，以及关于内容是否因某个屏蔽类别而被屏蔽的信息。如需详细了解安全属性，请参阅 Vertex PaLM API。
   • ml_generate_text_status：相应行的 API 响应状态。如果操作成功，则此值为空。
   • prompt：用于情感分析的提示。
   • bigquery-public-data.imdb.reviews 表中的所有列。

3. 可选：与上一步中手动解析函数返回的 JSON 不同，您可以使用 flatten_json_output 参数在单独的列中返回生成的文本和安全属性。

   在查询编辑器中，运行以下语句：

   SELECT
   *
   FROM
   ML.GENERATE_TEXT(
     MODEL `bqml_tutorial.llm_model`,
     (
       SELECT
         CONCAT('Extract the key words from the text below: ', review) AS prompt,
         *
       FROM
         `bigquery-public-data.imdb.reviews`
       LIMIT 5
     ),
     STRUCT(
       0.2 AS temperature,
       100 AS max_output_tokens,
       TRUE AS flatten_json_output));

   输出类似于以下内容，为清楚起见，省略了非生成的列：

   +----------------------------------------+---------------------------------------------+-------------------------+----------------------------+-----+
   | ml_generate_text_llm_result            | ml_generate_text_rai_result                 | ml_generate_text_status | prompt                     | ... |
   +----------------------------------------+---------------------------------------------+-------------------------+----------------------------+-----+
   | Keywords:                              | {"blocked":false,"categories":              |                         | Extract the key words from |     |
   | - British Airways                      | ["Death, Harm & Tragedy","Derogatory",      |                         | the text below: I had to   |     |
   | - acting                               | "Finance","Health","Insult",                |                         | see this on the British    |     |
   | - story                                | "Profanity","Religion & Belief",            |                         | Airways plane. It was      |     |
   | - kid                                  | "Sexual","Toxic"]                           |                         | terribly bad acting and    |     |
   | - switch off                           | "safetyRatings":[{"category":               |                         | a dumb story. Not even     |     |
   |                                        | "Dangerous Content","probabilityScore"...   |                         | a kid would enjoy this...  |     |
   +----------------------------------------+---------------------------------------------+-------------------------+----------------------------+-----+
   | - Family movie                         | {"blocked":false,"categories":              |                         | Extract the key words from |     |
   | - ITV station                          | ["Death, Harm & Tragedy","Derogatory",      |                         | the text below: This is    |     |
   | - THE REAL HOWARD SPITZ                | "Health","Illicit Drugs","Insult",          |                         | a family movie that was    |     |
   | - Roald Dahl                           | "Legal","Profanity","Public Safety",        |                         | broadcast on my local      |     |
   | - DOCTOR WHO                           | "Sexual","Toxic","Violent"],                |                         | ITV station at 1.00 am a   |     |
   | - Pulp Fiction                         | "safetyRatings":[{"category":               |                         | couple of nights ago.      |     |
   | - ...                                  | "Dangerous Content","probabilityScore"...   |                         | This might be a strange... |     |
   +----------------------------------------+---------------------------------------------+-------------------------+----------------------------+-----+
   

   结果包括以下列：

   • ml_generate_text_llm_result：生成的文本。
   • ml_generate_text_rai_result：安全属性，以及关于内容是否因某个屏蔽类别而被屏蔽的信息。如需详细了解安全属性，请参阅 Vertex PaLM API。
   • ml_generate_text_status：相应行的 API 响应状态。如果操作成功，则此值为空。
   • prompt：用于提取关键字的提示。
   • bigquery-public-data.imdb.reviews 表中的所有列。

BigQuery DataFrame

在尝试此示例之前，请按照《BigQuery 快速入门：使用 BigQuery DataFrames》中的 BigQuery DataFrames 设置说明进行操作。如需了解详情，请参阅 BigQuery DataFrames 参考文档。

如需向 BigQuery 进行身份验证，请设置应用默认凭据。 如需了解详情，请参阅为本地开发环境设置 ADC。

使用 predict 函数运行远程模型：

import bigframes.pandas as bpd

df = bpd.read_gbq("bigquery-public-data.imdb.reviews", max_results=5)
df_prompt_prefix = "Extract the key words from the text below: "
df_prompt = df_prompt_prefix + df["review"]

# Predict using the model
df_pred = model.predict(df_prompt, temperature=0.2, max_output_tokens=100)
df_pred.peek(5)

结果类似于以下内容：

执行情感分析

使用远程模型和 ML.GENERATE_TEXT 函数对 IMDB 电影评论进行情感分析：

SQL

1. 在 Google Cloud 控制台中，转到 BigQuery 页面。

   转到 BigQuery

2. 在查询编辑器中，运行以下语句，对五项电影评价执行情感分析：

   SELECT
   ml_generate_text_result['predictions'][0]['content'] AS generated_text,
   ml_generate_text_result['predictions'][0]['safetyAttributes']
     AS safety_attributes,
   * EXCEPT (ml_generate_text_result)
   FROM
   ML.GENERATE_TEXT(
     MODEL `bqml_tutorial.llm_model`,
     (
       SELECT
         CONCAT(
           'perform sentiment analysis on the following text, return one the following categories: positive, negative: ',
           review) AS prompt,
         *
       FROM
         `bigquery-public-data.imdb.reviews`
       LIMIT 5
     ),
     STRUCT(
       0.2 AS temperature,
       100 AS max_output_tokens));

   输出类似于以下内容，为清楚起见，省略了非生成的列：

   +----------------+---------------------------------------------+-------------------------+----------------------------+-----+
   | generated_text | safety_attributes                           | ml_generate_text_status | prompt                     | ... |
   +----------------+---------------------------------------------+-------------------------+----------------------------+-----+
   | "negative"     | {"blocked":false,"categories":              |                         | perform sentiment analysis |     |
   |                | ["Death, Harm & Tragedy","Derogatory",      |                         | on the following text,     |     |
   |                | "Finance","Health","Insult",                |                         | return one the following   |     |
   |                | "Profanity","Religion & Belief",            |                         | categories: positive,      |     |
   |                | "Sexual","Toxic"]                           |                         | negative: I  had to see    |     |
   |                | "safetyRatings":[{"category":               |                         | this on the British        |     |
   |                | "Dangerous Content","probabilityScore"...   |                         | Airways plane. It was...   |     | 
   +----------------+---------------------------------------------+-------------------------+----------------------------+-----+
   | "negative"     | {"blocked":false,"categories":              |                         | perform sentiment analysis |     |
   |                | ["Death, Harm & Tragedy","Derogatory",      |                         | on the following text,     |     |
   |                | "Health","Illicit Drugs","Insult",          |                         | return one the following   |     |
   |                | "Legal","Profanity","Public Safety",        |                         | categories: positive,      |     |
   |                | "Sexual","Toxic","Violent"],                |                         | negative: This is a family |     |
   |                | "safetyRatings":[{"category":               |                         | movie that was broadcast   |     |
   |                | "Dangerous Content","probabilityScore"...   |                         | on my local ITV station... |     |
   +----------------+---------------------------------------------+-------------------------+----------------------------+-----+
   

   结果包含执行关键字提取中记录的列。

BigQuery DataFrame

在尝试此示例之前，请按照《BigQuery 快速入门：使用 BigQuery DataFrames》中的 BigQuery DataFrames 设置说明进行操作。如需了解详情，请参阅 BigQuery DataFrames 参考文档。

如需向 BigQuery 进行身份验证，请设置应用默认凭据。 如需了解详情，请参阅为本地开发环境设置 ADC。

使用 predict 函数运行远程模型：

import bigframes.pandas as bpd

df = bpd.read_gbq("bigquery-public-data.imdb.reviews", max_results=5)
df_prompt_prefix = "perform sentiment analysis on the following text, return one the following categories: positive, negative: "
df_prompt = df_prompt_prefix + df["review"]

# Predict using the model
df_pred = model.predict(df_prompt, temperature=0.2, max_output_tokens=100)
df_pred.peek(5)

结果类似于以下内容：

清理

注意：删除项目会产生以下影响：

• 项目中的所有内容都会被删除。如果您将现有项目用于本文档中的任务，则删除该项目后，还将删除您已在该项目中完成的任何其他工作。
• 自定义项目 ID 丢失。创建此项目时，您可能创建了要在将来使用的自定义项目 ID。要保留使用该项目 ID 的网址（例如 appspot.com 网址），请删除项目内的所选资源，而不是删除整个项目。

如果您打算探索多个架构、教程或快速入门，则重复使用项目可以帮助您避免超出项目配额限制。

1. In the Google Cloud console, go to the Manage resources page.

   Go to Manage resources

2. In the project list, select the project that you want to delete, and then click Delete.
3. In the dialog, type the project ID, and then click Shut down to delete the project.