Text über ein text-bison-Modell und die Funktion ML.GENERATE_TEXT generieren

In dieser Anleitung erfahren Sie, wie Sie ein Remote-Modell erstellen, das auf dem text-bison@002-LLM (Large Language Model, großes Sprachmodell) basiert. Verwenden Sie dieses Modell zusammen mit der ML.GENERATE_TEXT-Funktion, um verschieden Aufgaben im Bereich der Textgenerierung auszuführen. In dieser Anleitung wird die öffentliche Tabelle bigquery-public-data.imdb.reviews verwendet.

Erforderliche Berechtigungen

Zum Erstellen des Datasets benötigen Sie die IAM (Identity and Access Management)-Berechtigung bigquery.datasets.create.
Zum Erstellen der Verbindungsressource benötigen Sie die folgenden IAM-Berechtigungen:
- bigquery.connections.create
- bigquery.connections.get
Zum Erteilen von Berechtigungen für das Dienstkonto der Verbindung benötigen Sie die folgende Berechtigung:
- resourcemanager.projects.setIamPolicy
Zum Erstellen des Modells benötigen Sie die folgenden Berechtigungen:
- bigquery.jobs.create
- bigquery.models.create
- bigquery.models.getData
- bigquery.models.updateData
- bigquery.connections.delegate
Zum Ausführen von Inferenzen benötigen Sie die folgenden Berechtigungen:
- bigquery.models.getData
- bigquery.jobs.create

Kosten

In diesem Dokument verwenden Sie die folgenden kostenpflichtigen Komponenten von Google Cloud:

BigQuery ML: You incur costs for the data that you process in BigQuery.
Vertex AI: You incur costs for calls to the Vertex AI service that's represented by the remote model.

Mit dem Preisrechner können Sie eine Kostenschätzung für Ihre voraussichtliche Nutzung vornehmen. Neuen Google Cloud-Nutzern steht möglicherweise eine kostenlose Testversion zur Verfügung.

Weitere Informationen zu den Preisen von BigQuery finden Sie unter BigQuery: Preise in der BigQuery-Dokumentation.

Weitere Informationen zu den Preisen für Vertex AI finden Sie auf der Seite Vertex AI: Preise.

Hinweise

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector
Make sure that billing is enabled for your Google Cloud project.
Enable the BigQuery, BigQuery Connection, and Vertex AI APIs.
Enable the APIs

Dataset erstellen

Erstellen Sie ein BigQuery-Dataset, um Ihr ML-Modell zu speichern:

Rufen Sie in der Google Cloud Console die Seite „BigQuery“ auf.

Zur Seite „BigQuery“
Klicken Sie im Bereich Explorer auf den Namen Ihres Projekts.
Klicken Sie auf Aktionen ansehen > Dataset erstellen.
Führen Sie auf der Seite Dataset erstellen die folgenden Schritte aus:
- Geben Sie unter Dataset-ID bqml_tutorial ein.
- Wählen Sie als Standorttyp die Option Mehrere Regionen und dann USA (mehrere Regionen in den USA) aus.
  
  Die öffentlichen Datasets sind am multiregionalen Standort US gespeichert. Der Einfachheit halber sollten Sie Ihr Dataset am selben Standort speichern.
- Übernehmen Sie die verbleibenden Standardeinstellungen unverändert und klicken Sie auf Dataset erstellen.

Verbindung herstellen

Erstellen Sie eine Cloud-Ressourcenverbindung und rufen Sie das Dienstkonto der Verbindung ab. Erstellen Sie die Verbindung in demselben Standort wie dem des von Ihnen im vorherigen Schritt erstellten Datasets.

Wählen Sie eine der folgenden Optionen aus:

Console

Rufen Sie die Seite BigQuery auf.

BigQuery aufrufen
Klicken Sie auf Hinzufügen und dann auf Verbindungen zu externen Datenquellen, um eine Verbindung zu erstellen.
Wählen Sie in der Liste Verbindungstyp die Option Vertex AI-Remote-Modelle, Remote-Funktionen und BigLake (Cloud Resource) aus.
Geben Sie im Feld Verbindungs-ID einen Namen für die Verbindung ein.
Klicken Sie auf Verbindung erstellen.
Klicken Sie auf Zur Verbindung.
Kopieren Sie im Bereich Verbindungsinformationen die Dienstkonto-ID zur Verwendung in einem späteren Schritt.

bq

Erstellen Sie in einer Befehlszeilenumgebung eine Verbindung:
```
bq mk --connection --location=REGION --project_id=PROJECT_ID \
    --connection_type=CLOUD_RESOURCE CONNECTION_ID
```
Der Parameter --project_id überschreibt das Standardprojekt.

Ersetzen Sie Folgendes:
- REGION: Ihre Verbindungsregion
- PROJECT_ID: Ihre Google Cloud-Projekt-ID
- CONNECTION_ID: eine ID für Ihre Verbindung
Wenn Sie eine Verbindungsressource herstellen, erstellt BigQuery ein eindeutiges Systemdienstkonto und ordnet es der Verbindung zu.

Fehlerbehebung:Wird der folgende Verbindungsfehler angezeigt, aktualisieren Sie das Google Cloud SDK:
```
Flags parsing error: flag --connection_type=CLOUD_RESOURCE: value should be one of...
```

Rufen Sie die Dienstkonto-ID ab und kopieren Sie sie zur Verwendung in einem späteren Schritt:

bq show --connection PROJECT_ID.REGION.CONNECTION_ID

Die Ausgabe sieht in etwa so aus:

name                          properties
1234.REGION.CONNECTION_ID     {"serviceAccountId": "connection-1234-9u56h9@gcp-sa-bigquery-condel.iam.gserviceaccount.com"}

Terraform

Hängen Sie folgenden Abschnitt an Ihre main.tf-Datei an.

 ## This creates a cloud resource connection.
 ## Note: The cloud resource nested object has only one output only field - serviceAccountId.
 resource "google_bigquery_connection" "connection" {
    connection_id = "CONNECTION_ID"
    project = "PROJECT_ID"
    location = "REGION"
    cloud_resource {}
}

Ersetzen Sie Folgendes:

CONNECTION_ID: eine ID für Ihre Verbindung
PROJECT_ID: Ihre Google Cloud-Projekt-ID
REGION: Ihre Verbindungsregion

Dem Dienstkonto der Verbindung Berechtigungen gewähren

Gewähren Sie dem Dienstkonto der Verbindung die Rolle "Vertex AI-Nutzer". Sie müssen diese Rolle in dem Projekt gewähren, das Sie im Abschnitt Vorbereitung erstellt oder ausgewählt haben. Die Zuweisung der Rolle in einem anderen Projekt führt zu dem Fehler bqcx-1234567890-xxxx@gcp-sa-bigquery-condel.iam.gserviceaccount.com does not have the permission to access resource.

So weisen Sie die Rolle zu:

Zur Seite IAM & Verwaltung.

IAM & Verwaltung aufrufen
Klicken Sie auf Zugriff gewähren.
Geben Sie im Feld Neue Hauptkonten die Dienstkonto-ID ein, die Sie zuvor kopiert haben.
Wählen Sie im Feld Rolle auswählen die Option Vertex AI und dann Vertex AI-Nutzerrolle aus.
Klicken Sie auf Speichern.

Remote-Modell erstellen

Erstellen Sie ein Remote-Modell, das ein gehostetes Vertex AI-LLM (Large Language Model) darstellt:

SQL

Öffnen Sie in der Google Cloud Console die Seite BigQuery.

BigQuery aufrufen
Führen Sie im Abfrageeditor folgende Abfrage aus:
```
CREATE OR REPLACE MODEL `bqml_tutorial.llm_model`
REMOTE WITH CONNECTION `LOCATION.CONNECTION_ID`
OPTIONS (ENDPOINT = 'text-bison@002');
```
Ersetzen Sie Folgendes:
- LOCATION: Standort der Verbindung
- CONNECTION_ID: ID Ihrer BigQuery-Verbindung
  Wenn Sie sich Verbindungsdetails in der Google Cloud Console ansehen, ist dies der Wert im letzten Abschnitt der voll qualifizierten Verbindungs-ID, der unter Verbindungs-ID angezeigt wird, z. B. projects/myproject/locations/connection_location/connections/myconnection.
Die Abfrage dauert mehrere Sekunden. Anschließend wird das Modell llm_model im bqml_tutorial-Dataset des Bereichs Explorer angezeigt. Da die Abfrage eine CREATE MODEL-Anweisung zum Erstellen eines Modells verwendet, gibt es keine Abfrageergebnisse.

BigQuery DataFrames

Bevor Sie dieses Beispiel ausprobieren, folgen Sie den Schritten zur Einrichtung von BigQuery DataFrames in der BigQuery-Kurzanleitung: BigQuery DataFrames verwenden. Weitere Informationen finden Sie in der Referenzdokumentation zu BigQuery DataFrames.

Richten Sie zur Authentifizierung bei BigQuery die Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.

import bigframes
from bigframes.ml.llm import PaLM2TextGenerator

bigframes.options.bigquery.project = PROJECT_ID
bigframes.options.bigquery.location = LOCATION

model = PaLM2TextGenerator()

Keyword-Extraktion ausführen

Führen Sie mithilfe des Remote-Modells und der ML.GENERATE_TEXT-Funktion die Keyword-Extraktion für IMDB-Filmrezensionen durch:

SQL

Öffnen Sie in der Google Cloud Console die Seite BigQuery.

BigQuery aufrufen

Geben Sie im Abfrageeditor folgende Anweisung ein, um eine Schlüsselwortextraktion für fünf Filmrezensionen durchzuführen:

SELECT
ml_generate_text_result['predictions'][0]['content'] AS generated_text,
ml_generate_text_result['predictions'][0]['safetyAttributes']
  AS safety_attributes,
* EXCEPT (ml_generate_text_result)
FROM
ML.GENERATE_TEXT(
  MODEL `bqml_tutorial.llm_model`,
  (
    SELECT
      CONCAT('Extract the key words from the text below: ', review) AS prompt,
      *
    FROM
      `bigquery-public-data.imdb.reviews`
    LIMIT 5
  ),
  STRUCT(
    0.2 AS temperature,
    100 AS max_output_tokens));

Die Ausgabe sieht etwa so aus, wobei nicht generierte Spalten der Übersichtlichkeit halber weggelassen werden:

+----------------------------------------+---------------------------------------------+-------------------------+----------------------------+-----+
| generated_text                         | safety_attributes                           | ml_generate_text_status | prompt                     | ... |
+----------------------------------------+---------------------------------------------+-------------------------+----------------------------+-----+
| " Keywords:\n- British Airways\n-      | {"blocked":false,"categories":              |                         | Extract the key words from |     |
| acting\n- story\n- kid\n- switch off"  | ["Death, Harm & Tragedy","Derogatory",      |                         | the text below: I had to   |     |
|                                        | "Finance","Health","Insult",                |                         | see this on the British    |     |
|                                        | "Profanity","Religion & Belief",            |                         | Airways plane. It was      |     |
|                                        | "Sexual","Toxic"]                           |                         | terribly bad acting and    |     |
|                                        | "safetyRatings":[{"category":               |                         | a dumb story. Not even     |     |
|                                        | "Dangerous Content","probabilityScore"...   |                         | a kid would enjoy this...  |     |
+----------------------------------------+---------------------------------------------+-------------------------+----------------------------+-----+
| " - Family movie\n- ITV station\n- THE | {"blocked":false,"categories":              |                         | Extract the key words from |     |
| REAL HOWARD SPITZ\n- Roald Dahl\n-     | ["Death, Harm & Tragedy","Derogatory",      |                         | the text below: This is    |     |
| DOCTOR WHO\n- Pulp fiction\n- Child    | "Health","Illicit Drugs","Insult",          |                         | a family movie that was    |     |
| abuse\n- KINDERGARTEN COP\n- PC\n-     | "Legal","Profanity","Public Safety",        |                         | broadcast on my local      |     |
| Children's author\n- Vadim Jean\n-     | "Sexual","Toxic","Violent"],                |                         | ITV station at 1.00 am a   |     |
| Haphazard\n- Kelsey Grammar\n-         | "safetyRatings":[{"category":               |                         | couple of nights ago.      |     |
| Dead pan\n- Ridiculous camera angles"  | "Dangerous Content","probabilityScore"...   |                         | This might be a strange... |     |
+----------------------------------------+---------------------------------------------+-------------------------+----------------------------+-----+

Die Ergebnisse enthalten die folgenden Spalten:

generated_text: generierter Text.
safety_attributes: Sicherheitsattribute sowie Informationen dazu, ob der Inhalt aufgrund einer der blockierenden Kategorien blockiert wird. Weitere Informationen zu den Sicherheitsattributen finden Sie unter Vertex PaLM API.
ml_generate_text_status: API-Antwortstatus für die entsprechende Zeile. Wenn der Vorgang erfolgreich war, ist dieser Wert leer.
prompt: Eingabeaufforderung für die Sentimentanalyse.
Alle Spalten aus der bigquery-public-data.imdb.reviews-Tabelle.

Optional: Anstatt das von der Funktion zurückgegebene JSON-Dokument manuell zu parsen, wie im vorherigen Schritt, verwenden Sie das flatten_json_output-Argument, um den generierten Text und die Sicherheitsattribute in separaten Spalten zurückzugeben.

Führen Sie im Abfrageeditor folgende Abfrage aus:

SELECT
*
FROM
ML.GENERATE_TEXT(
  MODEL `bqml_tutorial.llm_model`,
  (
    SELECT
      CONCAT('Extract the key words from the text below: ', review) AS prompt,
      *
    FROM
      `bigquery-public-data.imdb.reviews`
    LIMIT 5
  ),
  STRUCT(
    0.2 AS temperature,
    100 AS max_output_tokens,
    TRUE AS flatten_json_output));

Die Ausgabe sieht etwa so aus, wobei nicht generierte Spalten der Übersichtlichkeit halber weggelassen werden:

+----------------------------------------+---------------------------------------------+-------------------------+----------------------------+-----+
| ml_generate_text_llm_result            | ml_generate_text_rai_result                 | ml_generate_text_status | prompt                     | ... |
+----------------------------------------+---------------------------------------------+-------------------------+----------------------------+-----+
| Keywords:                              | {"blocked":false,"categories":              |                         | Extract the key words from |     |
| - British Airways                      | ["Death, Harm & Tragedy","Derogatory",      |                         | the text below: I had to   |     |
| - acting                               | "Finance","Health","Insult",                |                         | see this on the British    |     |
| - story                                | "Profanity","Religion & Belief",            |                         | Airways plane. It was      |     |
| - kid                                  | "Sexual","Toxic"]                           |                         | terribly bad acting and    |     |
| - switch off                           | "safetyRatings":[{"category":               |                         | a dumb story. Not even     |     |
|                                        | "Dangerous Content","probabilityScore"...   |                         | a kid would enjoy this...  |     |
+----------------------------------------+---------------------------------------------+-------------------------+----------------------------+-----+
| - Family movie                         | {"blocked":false,"categories":              |                         | Extract the key words from |     |
| - ITV station                          | ["Death, Harm & Tragedy","Derogatory",      |                         | the text below: This is    |     |
| - THE REAL HOWARD SPITZ                | "Health","Illicit Drugs","Insult",          |                         | a family movie that was    |     |
| - Roald Dahl                           | "Legal","Profanity","Public Safety",        |                         | broadcast on my local      |     |
| - DOCTOR WHO                           | "Sexual","Toxic","Violent"],                |                         | ITV station at 1.00 am a   |     |
| - Pulp Fiction                         | "safetyRatings":[{"category":               |                         | couple of nights ago.      |     |
| - ...                                  | "Dangerous Content","probabilityScore"...   |                         | This might be a strange... |     |
+----------------------------------------+---------------------------------------------+-------------------------+----------------------------+-----+

Die Ergebnisse enthalten die folgenden Spalten:

ml_generate_text_llm_result: generierter Text.
ml_generate_text_rai_result: Sicherheitsattribute sowie Informationen dazu, ob der Inhalt aufgrund einer der blockierenden Kategorien blockiert wird. Weitere Informationen zu den Sicherheitsattributen finden Sie unter Vertex PaLM API.
ml_generate_text_status: API-Antwortstatus für die entsprechende Zeile. Wenn der Vorgang erfolgreich war, ist dieser Wert leer.
prompt: Eingabeaufforderung für die Keyword-Extraktion.
Alle Spalten aus der bigquery-public-data.imdb.reviews-Tabelle.

BigQuery DataFrames

Verwenden Sie die Funktion predict, um das Remote-Modell auszuführen:

import bigframes.pandas as bpd

df = bpd.read_gbq("bigquery-public-data.imdb.reviews", max_results=5)
df_prompt_prefix = "Extract the key words from the text below: "
df_prompt = df_prompt_prefix + df["review"]

# Predict using the model
df_pred = model.predict(df_prompt, temperature=0.2, max_output_tokens=100)
df_pred.peek(5)

Das Ergebnis sieht etwa so aus: Result_visualization

Kurzanleitung: Eine Sentimentanalyse durchführen

Mit dem Remote-Modell und der ML.GENERATE_TEXT-Funktion können Sie eine Sentimentanalyse für IMDB-Filmrezensionen durchführen:

SQL

Öffnen Sie in der Google Cloud Console die Seite BigQuery.

BigQuery aufrufen

Führen Sie im Abfrageeditor folgende Anweisung aus, um eine Sentimentanalyse für fünf Filmrezensionen durchzuführen:

SELECT
ml_generate_text_result['predictions'][0]['content'] AS generated_text,
ml_generate_text_result['predictions'][0]['safetyAttributes']
  AS safety_attributes,
* EXCEPT (ml_generate_text_result)
FROM
ML.GENERATE_TEXT(
  MODEL `bqml_tutorial.llm_model`,
  (
    SELECT
      CONCAT(
        'perform sentiment analysis on the following text, return one the following categories: positive, negative: ',
        review) AS prompt,
      *
    FROM
      `bigquery-public-data.imdb.reviews`
    LIMIT 5
  ),
  STRUCT(
    0.2 AS temperature,
    100 AS max_output_tokens));

Die Ausgabe sieht etwa so aus, wobei nicht generierte Spalten der Übersichtlichkeit halber weggelassen werden:

+----------------+---------------------------------------------+-------------------------+----------------------------+-----+
| generated_text | safety_attributes                           | ml_generate_text_status | prompt                     | ... |
+----------------+---------------------------------------------+-------------------------+----------------------------+-----+
| "negative"     | {"blocked":false,"categories":              |                         | perform sentiment analysis |     |
|                | ["Death, Harm & Tragedy","Derogatory",      |                         | on the following text,     |     |
|                | "Finance","Health","Insult",                |                         | return one the following   |     |
|                | "Profanity","Religion & Belief",            |                         | categories: positive,      |     |
|                | "Sexual","Toxic"]                           |                         | negative: I  had to see    |     |
|                | "safetyRatings":[{"category":               |                         | this on the British        |     |
|                | "Dangerous Content","probabilityScore"...   |                         | Airways plane. It was...   |     | 
+----------------+---------------------------------------------+-------------------------+----------------------------+-----+
| "negative"     | {"blocked":false,"categories":              |                         | perform sentiment analysis |     |
|                | ["Death, Harm & Tragedy","Derogatory",      |                         | on the following text,     |     |
|                | "Health","Illicit Drugs","Insult",          |                         | return one the following   |     |
|                | "Legal","Profanity","Public Safety",        |                         | categories: positive,      |     |
|                | "Sexual","Toxic","Violent"],                |                         | negative: This is a family |     |
|                | "safetyRatings":[{"category":               |                         | movie that was broadcast   |     |
|                | "Dangerous Content","probabilityScore"...   |                         | on my local ITV station... |     |
+----------------+---------------------------------------------+-------------------------+----------------------------+-----+

Die Ergebnisse enthalten die Spalten, die auch unter Keyword-Extraktion ausführen dokumentiert sind.

BigQuery DataFrames

Verwenden Sie die Funktion predict, um das Remote-Modell auszuführen:

import bigframes.pandas as bpd

df = bpd.read_gbq("bigquery-public-data.imdb.reviews", max_results=5)
df_prompt_prefix = "perform sentiment analysis on the following text, return one the following categories: positive, negative: "
df_prompt = df_prompt_prefix + df["review"]

# Predict using the model
df_pred = model.predict(df_prompt, temperature=0.2, max_output_tokens=100)
df_pred.peek(5)

Das Ergebnis sieht etwa so aus: Result_visualization

Bereinigen

Achtung: Das Löschen von Projekten hat folgende Auswirkungen:

Alle Inhalte des Projekts werden gelöscht. Wenn Sie für die Aufgaben in diesem Dokument ein bereits bestehendes Projekt verwendet haben und dieses löschen, werden auch alle anderen im Rahmen des Projekts erstellten Daten gelöscht.
Benutzerdefinierte Projekt-IDs gehen verloren. Beim Erstellen dieses Projekts haben Sie möglicherweise eine benutzerdefinierte Projekt-ID erstellt, die Sie weiterhin verwenden möchten. Damit die URLs, die die Projekt-ID nutzen, z. B. eine appspot.com-URL, erhalten bleiben, sollten Sie ausgewählte Ressourcen innerhalb des Projekts löschen, statt das gesamte Projekt.

Wenn Sie mehrere Architekturen, Anleitungen und Kurzanleitungen durcharbeiten möchten, können Sie die Überschreitung von Projektkontingenten verhindern, indem Sie Projekte wiederverwenden.

In the Google Cloud console, go to the Manage resources page.
Go to Manage resources
In the project list, select the project that you want to delete, and then click Delete.
In the dialog, type the project ID, and then click Shut down to delete the project.