Diese Seite wurde von der Cloud Translation API übersetzt.

PDFs in einer Pipeline für die Retrieval-Augmented-Generation parsen

In dieser Anleitung erfahren Sie, wie Sie eine Retrieval Augmented Generation (RAG)-Pipeline auf der Grundlage von geparsten PDF-Inhalten erstellen.

PDF-Dateien wie Finanzdokumente können aufgrund ihrer komplexen Struktur und der Mischung aus Text, Zahlen und Tabellen in RAG-Pipelines eine Herausforderung darstellen. In dieser Anleitung erfahren Sie, wie Sie die BigQuery ML-Funktionen in Kombination mit dem Layout-Parser von Document AI verwenden, um eine RAG-Pipeline auf der Grundlage wichtiger Informationen zu erstellen, die aus einer PDF-Datei extrahiert wurden.

Alternativ können Sie diese Anleitung auch mit einem Colab Enterprise-Notebook ausführen.

Lernziele

In dieser Anleitung werden die folgenden Aufgaben behandelt:

Cloud Storage-Bucket erstellen und Beispiel-PDF-Datei hochladen
Erstellen Sie eine Cloud-Ressourcenverbindung, damit Sie von BigQuery aus eine Verbindung zu Cloud Storage und Vertex AI herstellen können.
Erstellen Sie eine Objekttabelle über die PDF-Datei, um sie in BigQuery verfügbar zu machen.
Erstellen eines Document AI-Prozessors, mit dem Sie die PDF-Datei parsen können.
Erstellen eines Remote-Modells, mit dem Sie über die Document AI API von BigQuery aus auf den Dokumentenprozessor zugreifen können.
Mit dem Remote-Modell und der Funktion ML.PROCESS_DOCUMENT den PDF-Inhalt in Chunks parsen und dann in eine BigQuery-Tabelle schreiben.
PDF-Inhalte aus den von der ML.PROCESS_DOCUMENT-Funktion zurückgegebenen JSON-Daten extrahieren und dann in eine BigQuery-Tabelle schreiben
Erstellen eines Remote-Modells, mit dem Sie das Vertex AI-text-embedding-004-Modell zur Generierung von Einbettungen aus BigQuery verwenden können.
Mit dem Remote-Modell und der Funktion ML.GENERATE_EMBEDDING Einbettungen aus dem geparsten PDF-Inhalt generieren und diese Einbettungen dann in eine BigQuery-Tabelle schreiben. Einbettungen sind numerische Darstellungen des PDF-Inhalts, mit denen Sie semantische Such- und Abrufvorgänge für den PDF-Inhalt ausführen können.
Durch Verwenden der Funktion VECTOR_SEARCH auf den Einbettungen, um semantisch ähnliche PDF-Inhalte zu identifizieren
Erstellen eines Remote-Modells, mit dem Sie das Vertex AI-gemini-1.5-flash-Modell für die Textgenerierung in BigQuery verwenden können.
Führen Sie RAG (Retrieval Augmented Generation) durch, indem Sie Text mit dem Remote-Modell und der Funktion ML.GENERATE_TEXT generieren und Vektorsuchergebnisse verwenden, um die Prompt-Eingabe zu erweitern und die Ergebnisse zu verbessern.

Kosten

In diesem Dokument verwenden Sie die folgenden kostenpflichtigen Komponenten von Google Cloud:

BigQuery: You incur costs for the data that you process in BigQuery.
Vertex AI: You incur costs for calls to Vertex AI models.
Document AI: You incur costs for calls to the Document AI API.
Cloud Storage: You incur costs for object storage in Cloud Storage.

Mit dem Preisrechner können Sie eine Kostenschätzung für Ihre voraussichtliche Nutzung vornehmen. Neuen Google Cloud-Nutzern steht möglicherweise eine kostenlose Testversion zur Verfügung.

Weitere Informationen finden Sie auf den folgenden Preisseiten:

Hinweise

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector
Make sure that billing is enabled for your Google Cloud project.
Enable the BigQuery, BigQuery Connection, Vertex AI, Document AI, and Cloud Storage APIs.
Enable the APIs

Erforderliche Rollen

Wenn Sie Cloud Storage-Buckets und ‑Objekte erstellen möchten, benötigen Sie die Rolle roles/storage.storageAdmin.
Zum Erstellen eines Document AI-Prozessors benötigen Sie die Rolle roles/documentai.editor.
Zum Erstellen einer Verbindung benötigen Sie die Rolle roles/bigquery.connectionAdmin.
Zum Erteilen von Berechtigungen für das Dienstkonto der Verbindung benötigen Sie die Rolle roles/resourcemanager.projectIamAdmin.
Die in dieser Anleitung erforderlichen IAM-Berechtigungen für die verbleibenden BigQuery-Vorgänge sind in den folgenden beiden Rollen enthalten:
- BigQuery-Dateneditor (roles/bigquery.dataEditor), um Modelle, Tabellen und Indexe zu erstellen.
- BigQuery-Nutzer (roles/bigquery.user), um BigQuery-Jobs auszuführen.

Dataset erstellen

Erstellen Sie ein BigQuery-Dataset, um Ihr ML-Modell zu speichern:

Rufen Sie in der Google Cloud Console die Seite „BigQuery“ auf.

Zur Seite „BigQuery“
Klicken Sie im Bereich Explorer auf den Namen Ihres Projekts.
Klicken Sie auf Aktionen ansehen > Dataset erstellen.
Führen Sie auf der Seite Dataset erstellen die folgenden Schritte aus:
- Geben Sie unter Dataset-ID bqml_tutorial ein.
- Wählen Sie als Standorttyp die Option Mehrere Regionen und dann USA (mehrere Regionen in den USA) aus.
  
  Die öffentlichen Datasets sind am multiregionalen Standort US gespeichert. Der Einfachheit halber sollten Sie Ihr Dataset am selben Standort speichern.
- Übernehmen Sie die verbleibenden Standardeinstellungen unverändert und klicken Sie auf Dataset erstellen.

Verbindung herstellen

Erstellen Sie eine Cloud-Ressourcenverbindung und rufen Sie das Dienstkonto der Verbindung ab. Erstellen Sie die Verbindung am selben Speicherort.

Wählen Sie eine der folgenden Optionen aus:

Console

Rufen Sie die Seite BigQuery auf.

BigQuery aufrufen
Klicken Sie auf Hinzufügen und dann auf Verbindungen zu externen Datenquellen, um eine Verbindung zu erstellen.
Wählen Sie in der Liste Verbindungstyp die Option Vertex AI-Remote-Modelle, Remote-Funktionen und BigLake (Cloud Resource) aus.
Geben Sie im Feld Verbindungs-ID einen Namen für die Verbindung ein.
Klicken Sie auf Verbindung erstellen.
Klicken Sie auf Zur Verbindung.
Kopieren Sie im Bereich Verbindungsinformationen die Dienstkonto-ID zur Verwendung in einem späteren Schritt.

bq

Erstellen Sie in einer Befehlszeilenumgebung eine Verbindung:
```
bq mk --connection --location=REGION --project_id=PROJECT_ID \
    --connection_type=CLOUD_RESOURCE CONNECTION_ID
```
Der Parameter --project_id überschreibt das Standardprojekt.

Ersetzen Sie dabei Folgendes:
- REGION: Ihre Verbindungsregion
- PROJECT_ID: Ihre Google Cloud-Projekt-ID
- CONNECTION_ID: eine ID für Ihre Verbindung
Wenn Sie eine Verbindungsressource herstellen, erstellt BigQuery ein eindeutiges Systemdienstkonto und ordnet es der Verbindung zu.

Fehlerbehebung:Wird der folgende Verbindungsfehler angezeigt, aktualisieren Sie das Google Cloud SDK:
```
Flags parsing error: flag --connection_type=CLOUD_RESOURCE: value should be one of...
```

Rufen Sie die Dienstkonto-ID ab und kopieren Sie sie zur Verwendung in einem späteren Schritt:

bq show --connection PROJECT_ID.REGION.CONNECTION_ID

Die Ausgabe sieht in etwa so aus:

name                          properties
1234.REGION.CONNECTION_ID     {"serviceAccountId": "connection-1234-9u56h9@gcp-sa-bigquery-condel.iam.gserviceaccount.com"}

Terraform

Verwenden Sie die Ressource google_bigquery_connection:

Richten Sie zur Authentifizierung bei BigQuery die Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für Clientbibliotheken einrichten.

Im folgenden Beispiel wird eine Cloud-Ressourcenverbindung mit dem Namen my_cloud_resource_connection in der Region US erstellt:


# This queries the provider for project information.
data "google_project" "default" {}

# This creates a cloud resource connection in the US region named my_cloud_resource_connection.
# Note: The cloud resource nested object has only one output field - serviceAccountId.
resource "google_bigquery_connection" "default" {
  connection_id = "my_cloud_resource_connection"
  project       = data.google_project.default.project_id
  location      = "US"
  cloud_resource {}
}

Führen Sie die Schritte in den folgenden Abschnitten aus, um Ihre Terraform-Konfiguration auf ein Google Cloud-Projekt anzuwenden.

Cloud Shell vorbereiten

Rufen Sie Cloud Shell auf.
Legen Sie das Google Cloud-Standardprojekt fest, auf das Sie Ihre Terraform-Konfigurationen anwenden möchten.

Sie müssen diesen Befehl nur einmal pro Projekt und in jedem beliebigen Verzeichnis ausführen.
```
export GOOGLE_CLOUD_PROJECT=PROJECT_ID
```
Umgebungsvariablen werden überschrieben, wenn Sie in der Terraform-Konfigurationsdatei explizite Werte festlegen.

Verzeichnis vorbereiten

Jede Terraform-Konfigurationsdatei muss ein eigenes Verzeichnis haben (auch als Stammmodul bezeichnet).

Erstellen Sie in Cloud Shell ein Verzeichnis und eine neue Datei in diesem Verzeichnis. Der Dateiname muss die Erweiterung .tf haben, z. B. main.tf. In dieser Anleitung wird die Datei als main.tf bezeichnet.
```
mkdir DIRECTORY && cd DIRECTORY && touch main.tf
```
Wenn Sie einer Anleitung folgen, können Sie den Beispielcode in jedem Abschnitt oder Schritt kopieren.

Kopieren Sie den Beispielcode in das neu erstellte main.tf.

Kopieren Sie optional den Code aus GitHub. Dies wird empfohlen, wenn das Terraform-Snippet Teil einer End-to-End-Lösung ist.
Prüfen und ändern Sie die Beispielparameter, die auf Ihre Umgebung angewendet werden sollen.
Speichern Sie die Änderungen.
Initialisieren Sie Terraform. Dies ist nur einmal für jedes Verzeichnis erforderlich.
```
terraform init
```
Fügen Sie optional die Option -upgrade ein, um die neueste Google-Anbieterversion zu verwenden:
```
terraform init -upgrade
```

Änderungen anwenden

Prüfen Sie die Konfiguration und prüfen Sie, ob die Ressourcen, die Terraform erstellen oder aktualisieren wird, Ihren Erwartungen entsprechen:
```
terraform plan
```
Korrigieren Sie die Konfiguration nach Bedarf.
Wenden Sie die Terraform-Konfiguration an. Führen Sie dazu den folgenden Befehl aus und geben Sie yes an der Eingabeaufforderung ein:
```
terraform apply
```
Warten Sie, bis Terraform die Meldung „Apply complete“ anzeigt.
Öffnen Sie Ihr Google Cloud-Projekt, um die Ergebnisse aufzurufen. Rufen Sie in der Google Cloud Console Ihre Ressourcen in der Benutzeroberfläche auf, um sicherzustellen, dass Terraform sie erstellt oder aktualisiert hat.

Zugriff auf das Dienstkonto gewähren

Wählen Sie eine der folgenden Optionen aus:

Console

Zur Seite IAM & Verwaltung.

IAM & Verwaltung aufrufen
Klicken Sie auf Zugriff gewähren.

Das Dialogfeld Principals hinzufügen wird geöffnet.
Geben Sie im Feld Neue Hauptkonten die Dienstkonto-ID ein, die Sie zuvor kopiert haben.
Wählen Sie im Feld Rolle auswählen die Option Document AI und dann Document AI-Betrachter aus.
Klicken Sie auf Weitere Rolle hinzufügen.
Wählen Sie im Feld Rolle auswählen die Option Cloud Storage und dann Storage-Objekt-Betrachter aus.
Klicken Sie auf Weitere Rolle hinzufügen.
Wählen Sie im Feld Rolle auswählen die Option Vertex AI und dann Vertex AI-Nutzer aus.
Klicken Sie auf Speichern.

gcloud

Führen Sie den Befehl gcloud projects add-iam-policy-binding aus:

gcloud projects add-iam-policy-binding 'PROJECT_NUMBER' --member='serviceAccount:MEMBER' --role='roles/documentai.viewer' --condition=None
gcloud projects add-iam-policy-binding 'PROJECT_NUMBER' --member='serviceAccount:MEMBER' --role='roles/storage.objectViewer' --condition=None
gcloud projects add-iam-policy-binding 'PROJECT_NUMBER' --member='serviceAccount:MEMBER' --role='roles/aiplatform.user' --condition=None

Dabei gilt:

PROJECT_NUMBER: Ihre Projektnummer.
MEMBER: Die Dienstkonto-ID, die Sie zuvor kopiert haben.

Beispiel-PDF in Cloud Storage hochladen

So laden Sie die Beispiel-PDF in Cloud Storage hoch:

Laden Sie die scf23.pdf-Beispiel-PDF unter https://www.federalreserve.gov/publications/files/scf23.pdf herunter. Klicken Sie dazu auf „Herunterladen“.
Cloud Storage-Bucket erstellen
Laden Sie die Datei scf23.pdf in den Bucket hoch.

Objekttabelle erstellen

So erstellen Sie eine Objekttabelle für die PDF-Datei in Cloud Storage:

Öffnen Sie in der Google Cloud Console die Seite BigQuery.

BigQuery aufrufen
Führen Sie im Abfrageeditor folgende Abfrage aus:
```
CREATE OR REPLACE EXTERNAL TABLE `bqml_tutorial.pdf`
WITH CONNECTION `LOCATION.CONNECTION_ID`
OPTIONS(
  object_metadata = 'SIMPLE',
  uris = ['gs://BUCKET/scf23.pdf']);
```
Ersetzen Sie Folgendes:
- LOCATION: Standort der Verbindung
- CONNECTION_ID ist die ID Ihrer BigQuery-Verbindung.
  Wenn Sie sich Verbindungsdetails in der Google Cloud Console ansehen, ist die Verbindungs-ID der Wert CONNECTION_ID im letzten Abschnitt der voll qualifizierten Verbindungs-ID, der unter Verbindungs-ID angezeigt wird, z. B. projects/myproject/locations/connection_location/connections/myconnection.
- BUCKET: den Cloud Storage-Bucket, der die scf23.pdf-Datei enthält. Der vollständige Wert der Option uri sollte in etwa so aussehen wie ['gs://mybucket/scf23.pdf'].

Dokumentprozessor erstellen

Erstellen Sie einen Dokumentprozessor, der auf dem Layout-Parser-Prozessor in der Multi-Region us basiert.

Remote-Modell für den Dokumentprozessor erstellen

Erstellen Sie ein Remote-Modell, um auf den Document AI-Prozessor zuzugreifen:

Öffnen Sie in der Google Cloud Console die Seite BigQuery.

BigQuery aufrufen
Führen Sie im Abfrageeditor folgende Abfrage aus:
```
CREATE OR REPLACE MODEL `bqml_tutorial.parser_model`
REMOTE WITH CONNECTION `LOCATION.CONNECTION_ID`
  OPTIONS(remote_service_type = 'CLOUD_AI_DOCUMENT_V1', document_processor = 'PROCESSOR_ID');
```
Ersetzen Sie Folgendes:
- LOCATION: Standort der Verbindung
- CONNECTION_ID ist die ID Ihrer BigQuery-Verbindung.
  Wenn Sie sich Verbindungsdetails in der Google Cloud Console ansehen, ist die Verbindungs-ID der Wert CONNECTION_ID im letzten Abschnitt der voll qualifizierten Verbindungs-ID, der unter Verbindungs-ID angezeigt wird, z. B. projects/myproject/locations/connection_location/connections/myconnection.
- PROCESSOR_ID: die Prozessor-ID des Dokuments. Um diesen Wert zu ermitteln, sehen Sie sich die Prozessordetails an und dann die Zeile ID im Abschnitt Allgemeine Informationen.

PDF-Datei in Teile zerlegen

Verwenden Sie den Dokumentprozessor mit der Funktion ML.PROCESS_DOCUMENT, um die PDF-Datei in Chunks zu parsen und die Inhalte dann in eine Tabelle zu schreiben. Die Funktion ML.PROCESS_DOCUMENT gibt die PDF-Chunks im JSON-Format zurück.

Öffnen Sie in der Google Cloud Console die Seite BigQuery.

BigQuery aufrufen

Führen Sie im Abfrageeditor folgende Abfrage aus:

CREATE or REPLACE TABLE bqml_tutorial.chunked_pdf AS (
  SELECT * FROM ML.PROCESS_DOCUMENT(
  MODEL bqml_tutorial.parser_model,
  TABLE bqml_tutorial.pdf,
  PROCESS_OPTIONS => (JSON '{"layout_config": {"chunking_config": {"chunk_size": 250}}}')
  )
);

PDF-Chunk-Daten in separate Spalten parsen

Hier wird der PDF-Inhalt und die Metadaten aus den von der Funktion ML.PROCESS_DOCUMENT zurückgegebenen JSON-Daten extrahiert und dann in eine Tabelle geschrieben:

Öffnen Sie in der Google Cloud Console die Seite BigQuery.

BigQuery aufrufen

Führen Sie im Abfrageeditor die folgende Anweisung aus, um den PDF-Inhalt zu parsen:

CREATE OR REPLACE TABLE bqml_tutorial.parsed_pdf AS (
SELECT
  uri,
  JSON_EXTRACT_SCALAR(json , '$.chunkId') AS id,
  JSON_EXTRACT_SCALAR(json , '$.content') AS content,
  JSON_EXTRACT_SCALAR(json , '$.pageFooters[0].text') AS page_footers_text,
  JSON_EXTRACT_SCALAR(json , '$.pageSpan.pageStart') AS page_span_start,
  JSON_EXTRACT_SCALAR(json , '$.pageSpan.pageEnd') AS page_span_end
FROM bqml_tutorial.chunked_pdf, UNNEST(JSON_EXTRACT_ARRAY(ml_process_document_result.chunkedDocument.chunks, '$')) json
);

Führen Sie im Abfrageeditor die folgende Anweisung aus, um einen Teil des geparsten PDF-Inhalts aufzurufen:

SELECT *
FROM `bqml_tutorial.parsed_pdf`
ORDER BY id
LIMIT 5;

Die Ausgabe sieht in etwa so aus:

+-----------------------------------+------+------------------------------------------------------------------------------------------------------+-------------------+-----------------+---------------+
|                uri                |  id  |                                                 content                                              | page_footers_text | page_span_start | page_span_end |
+-----------------------------------+------+------------------------------------------------------------------------------------------------------+-------------------+-----------------+---------------+
| gs://mybucket/scf23.pdf           | c1   | •BOARD OF OF FEDERAL GOVERN NOR RESERVE SYSTEM RESEARCH & ANALYSIS                                   | NULL              | 1               | 1             |
| gs://mybucket/scf23.pdf           | c10  | • In 2022, 20 percent of all families, 14 percent of families in the bottom half of the usual ...    | NULL              | 8               | 9             |
| gs://mybucket/scf23.pdf           | c100 | The SCF asks multiple questions intended to capture whether families are credit constrained, ...     | NULL              | 48              | 48            |
| gs://mybucket/scf23.pdf           | c101 | Bankruptcy behavior over the past five years is based on a series of retrospective questions ...     | NULL              | 48              | 48            |
| gs://mybucket/scf23.pdf           | c102 | # Percentiles of the Distributions of Income and Net Worth                                           | NULL              | 48              | 49            |
+-----------------------------------+------+------------------------------------------------------------------------------------------------------+-------------------+-----------------+---------------+

Remote-Modell für die Generierung von Einbettungen erstellen

Erstellen Sie ein Remote-Modell, das ein gehostetes Vertex AI-Modell zur Generierung von Texteinbettungen darstellt:

Öffnen Sie in der Google Cloud Console die Seite BigQuery.

BigQuery aufrufen
Führen Sie im Abfrageeditor folgende Abfrage aus:
```
CREATE OR REPLACE MODEL `bqml_tutorial.embedding_model`
  REMOTE WITH CONNECTION `LOCATION.CONNECTION_ID`
  OPTIONS (ENDPOINT = 'text-embedding-004');
```
Ersetzen Sie Folgendes:
- LOCATION: Standort der Verbindung
- CONNECTION_ID ist die ID Ihrer BigQuery-Verbindung.
  Wenn Sie sich Verbindungsdetails in der Google Cloud Console ansehen, ist die Verbindungs-ID der Wert CONNECTION_ID im letzten Abschnitt der voll qualifizierten Verbindungs-ID, der unter Verbindungs-ID angezeigt wird, z. B. projects/myproject/locations/connection_location/connections/myconnection.

Einbettungen generieren

Generieren Sie Einbettungen für den geparsten PDF-Inhalt und schreiben Sie sie dann in eine Tabelle:

Öffnen Sie in der Google Cloud Console die Seite BigQuery.

BigQuery aufrufen

Führen Sie im Abfrageeditor folgende Abfrage aus:

CREATE OR REPLACE TABLE `bqml_tutorial.embeddings` AS
SELECT * FROM ML.GENERATE_EMBEDDING(
  MODEL `bqml_tutorial.embedding_model`,
  TABLE `bqml_tutorial.parsed_pdf`
);

Vektorsuche ausführen

Führen Sie eine Vektorsuche für den geparsten PDF-Inhalt aus.

Bei der folgenden Abfrage wird eine Textzeile eingegeben, mit der ML.GENERATE_EMBEDDING-Funktion eine Einbettung für diese Eingabe erstellt und dann mit der VECTOR_SEARCH-Funktion die Eingabe-Einbettung mit den ähnlichsten Einbettungen von PDF-Inhalten abgeglichen. Die Ergebnisse sind die zehn PDF-Chunks, die der Eingabe semantisch am ähnlichsten sind.

Rufen Sie die Seite BigQuery auf.

BigQuery aufrufen

Führen Sie im Abfrageeditor folgende SQL-Anweisung aus:

SELECT query.query, base.id AS pdf_chunk_id, base.content, distance
FROM
  VECTOR_SEARCH( TABLE `bqml_tutorial.embeddings`,
    'ml_generate_embedding_result',
    (
    SELECT
      ml_generate_embedding_result,
      content AS query
    FROM
      ML.GENERATE_EMBEDDING( MODEL `bqml_tutorial.embedding_model`,
        ( SELECT 'Did the typical family net worth increase? If so, by how much?' AS content)
      )
    ),
    top_k => 10,
    OPTIONS => '{"fraction_lists_to_search": 0.01}')
ORDER BY distance DESC;

Die Ausgabe sieht in etwa so aus:

+-------------------------------------------------+--------------+------------------------------------------------------------------------------------------------------+---------------------+
|                query                            | pdf_chunk_id |                                                 content                                              | distance            |
+-------------------------------------------------+--------------+------------------------------------------------------------------------------------------------------+---------------------+
| Did the typical family net worth increase? ,... | c9           | ## Assets                                                                                            | 0.31113668174119469 |
|                                                 |              |                                                                                                      |                     |
|                                                 |              | The homeownership rate increased slightly between 2019 and 2022, to 66.1 percent. For ...            |                     |
+-------------------------------------------------+--------------+------------------------------------------------------------------------------------------------------+---------------------+
| Did the typical family net worth increase? ,... | c50          | # Box 3. Net Housing Wealth and Housing Affordability                                                | 0.30973592073929113 |
|                                                 |              |                                                                                                      |                     |
|                                                 |              | For families that own their primary residence ...                                                    |                     |
+-------------------------------------------------+--------------+------------------------------------------------------------------------------------------------------+---------------------+
| Did the typical family net worth increase? ,... | c50          | 3 In the 2019 SCF, a small portion of the data collection overlapped with early months of            | 0.29270064592817646 |
|                                                 |              | the COVID- ...                                                                                       |                     |
+-------------------------------------------------+--------------+------------------------------------------------------------------------------------------------------+---------------------+

Remote-Modell für die Textgenerierung erstellen

Erstellen Sie ein Remote-Modell, das ein gehostetes Vertex AI-Textgenerierungsmodell darstellt:

Öffnen Sie in der Google Cloud Console die Seite BigQuery.

BigQuery aufrufen
Führen Sie im Abfrageeditor folgende Abfrage aus:
```
CREATE OR REPLACE MODEL `bqml_tutorial.text_model`
  REMOTE WITH CONNECTION `LOCATION.CONNECTION_ID`
  OPTIONS (ENDPOINT = 'gemini-1.5-flash-002');
```
Ersetzen Sie Folgendes:
- LOCATION: Standort der Verbindung
- CONNECTION_ID ist die ID Ihrer BigQuery-Verbindung.
  Wenn Sie sich Verbindungsdetails in der Google Cloud Console ansehen, ist die Verbindungs-ID der Wert CONNECTION_ID im letzten Abschnitt der voll qualifizierten Verbindungs-ID, der unter Verbindungs-ID angezeigt wird, z. B. projects/myproject/locations/connection_location/connections/myconnection.

Durch Vektorsuchergebnisse erweiterten Text generieren

Führen Sie eine Vektorsuche in den Einbettungen durch, um semantisch ähnliche PDF-Inhalte zu identifizieren, und verwenden Sie dann die Funktion ML.GENERATE_TEXT mit den Ergebnissen der Vektorsuche, um die Prompt-Eingabe zu erweitern und die Ergebnisse der Textgenerierung zu verbessern. In diesem Fall werden in der Abfrage Informationen aus den PDF-Chunks verwendet, um eine Frage zur Veränderung des Familiennettovermögens im letzten Jahrzehnt zu beantworten.

Öffnen Sie in der Google Cloud Console die Seite BigQuery.

BigQuery aufrufen

Führen Sie im Abfrageeditor folgende Abfrage aus:

SELECT
  ml_generate_text_llm_result AS generated
  FROM
  ML.GENERATE_TEXT( MODEL `bqml_tutorial.text_model`,
    (
    SELECT
    CONCAT( 'Did the typical family net worth change? How does this compare the SCF survey a decade earlier? Be concise and use the following context:',
    STRING_AGG(FORMAT("context: %s and reference: %s", base.content, base.uri), ',\n')) AS prompt,
    FROM
      VECTOR_SEARCH( TABLE
        `bqml_tutorial.embeddings`,
        'ml_generate_embedding_result',
        (
        SELECT
          ml_generate_embedding_result,
          content AS query
        FROM
          ML.GENERATE_EMBEDDING( MODEL `bqml_tutorial.embedding_model`,
            (
            SELECT
              'Did the typical family net worth change? How does this compare the SCF survey a decade earlier?' AS content
            )
          )
        ),
        top_k => 10,
        OPTIONS => '{"fraction_lists_to_search": 0.01}')
      ),
      STRUCT(512 AS max_output_tokens, TRUE AS flatten_json_output)
  );

Die Ausgabe sieht in etwa so aus:

+-------------------------------------------------------------------------------+
|               generated                                                       |
+-------------------------------------------------------------------------------+
| Between the 2019 and 2022 Survey of Consumer Finances (SCF), real median      |
| family net worth surged 37 percent to $192,900, and real mean net worth       |
| increased 23 percent to $1,063,700.  This represents the largest three-year   |
| increase in median net worth in the history of the modern SCF, exceeding the  |
| next largest by more than double.  In contrast, between 2010 and 2013, real   |
| median net worth decreased 2 percent, and real mean net worth remained        |
| unchanged.                                                                    |
+-------------------------------------------------------------------------------+

Bereinigen

Achtung: Das Löschen von Projekten hat folgende Auswirkungen:

Alle Inhalte des Projekts werden gelöscht. Wenn Sie für die Aufgaben in diesem Dokument ein bereits bestehendes Projekt verwendet haben und dieses löschen, werden auch alle anderen im Rahmen des Projekts erstellten Daten gelöscht.
Benutzerdefinierte Projekt-IDs gehen verloren. Beim Erstellen dieses Projekts haben Sie möglicherweise eine benutzerdefinierte Projekt-ID erstellt, die Sie weiterhin verwenden möchten. Damit die URLs, die die Projekt-ID nutzen, z. B. eine appspot.com-URL, erhalten bleiben, sollten Sie ausgewählte Ressourcen innerhalb des Projekts löschen, statt das gesamte Projekt.

Wenn Sie mehrere Architekturen, Anleitungen und Kurzanleitungen durcharbeiten möchten, können Sie die Überschreitung von Projektkontingenten verhindern, indem Sie Projekte wiederverwenden.

In the Google Cloud console, go to the Manage resources page.
Go to Manage resources
In the project list, select the project that you want to delete, and then click Delete.
In the dialog, type the project ID, and then click Shut down to delete the project.