Schnellstartlösung: Wissensdatenbank zu generativer KI

Last reviewed 2024-03-01 UTC

In diesem Leitfaden wird die Lösung Wissensdatenbank zu generativer KI erläutert und bereitgestellt. Diese Lösung zeigt, wie Sie eine EQA-Pipeline (Extractive Question Answering) erstellen, um Inhalte für eine interne Wissensdatenbank zu erstellen.

Eine EQA-Pipeline verarbeitet Dokumente, extrahiert Frage-und-Antwort-Paare aus den Dokumenten und bietet Ihnen strukturierte Informationen, um ein Large Language Model (LLM) zu optimieren. Sie können beispielsweise ein Dokument mit vielen häufig gestellten Fragen (FAQs) hochladen, ein LLM mithilfe dieser FAQ optimieren und dann das trainierte Modell verwenden, um Kundenservicemitarbeitern dabei zu helfen, Informationen zu finden, während sie Fälle lösen.

Dieses Dokument richtet sich an Entwickler, die bereits Erfahrung mit LLMs haben. Es wird davon ausgegangen, dass Sie mit grundlegenden Cloud-Konzepten vertraut sind.

Lernziele

Dieser Lösungsleitfaden unterstützt Sie bei Folgendem:

Anwendung bereitstellen, die Frage-und-Antwort-Paare aus Ihren Dokumenten extrahiert.
Pipeline erstellen, die Ihre Anwendung auslöst, wenn ein Dokument hochgeladen wird.
Ein Prompt-basiertes KI-Modell mithilfe der Ausgabe Ihrer Anwendung trainieren.

Architektur

Diese Lösung stellt eine Wissensdatenbank-Anwendung mit generativer KI bereit. Das folgende Diagramm zeigt die Architektur der Anwendungsinfrastruktur:

Architekturdiagramm einer Anwendung, die Vertex AI Generative AI verwendet, um Frage-und-Antwort-Paare aus Dokumenten zu extrahieren

Anfrageablauf

Die folgenden Schritte beschreiben den Ablauf der Anfrageverarbeitung der Anwendung. Die Schritte im Ablauf sind wie im vorherigen Architekturdiagramm dargestellt nummeriert.

Sie starten die Wissensdatenbank-Anwendung zu generativer KI, indem Sie ein Dokument direkt über die Google Cloud Console oder die gcloud CLI in einen Cloud Storage-Bucket hochladen.

Wenn das Dokument hochgeladen wird, wird eine Cloud Functions-Funktion ausgelöst. Diese Funktion führt den extraktiven Question Answering-Prozess aus.
Die Funktion verwendet Document AI OCR, um den gesamten Text aus dem Dokument zu extrahieren.
Die Funktion indexiert das Dokument in der Vektorsuche. Der Vektorsuchindex bietet Kontext für das LLM, um Frage-und-Antwort-Paare basierend auf Inhalten zu extrahieren, die direkt aus den hochgeladenen Dokumenten extrahiert wurden.
Die Funktion verwendet Vertex AI, um Fragen und Antworten aus dem Dokument zu extrahieren und zu generieren.
Die Funktion speichert die extrahierten Frage-und-Antwort-Paare in Firestore.
Aus der Firestore-Datenbank wird ein JSONL-Dataset zur Feinabstimmung generiert und in Cloud Storage gespeichert.
Nachdem Sie manuell überprüft haben, ob Sie mit dem Dataset zufrieden sind, können Sie einen Feinabstimmungsjob in Vertex AI starten.

Wenn der Abstimmungsjob abgeschlossen ist, wird das abgestimmte Modell auf einem Endpunkt bereitgestellt. Nachdem es auf einem Endpunkt bereitgestellt wurde, können Sie Abfragen an das abgestimmte Modell in einem Colab-Notebook senden und es mit dem Foundation-modell vergleichen.

Verwendete Produkte

In diesem Abschnitt werden die Produkte beschrieben, die von der Lösung verwendet werden.

Wenn Sie mit der Terraform-Konfigurationssprache vertraut sind, können Sie einige Einstellungen für die Dienste ändern.

Komponente	Produktbeschreibung	Zweck in dieser Lösung
Cloud Storage	Ein unternehmensfähiger Dienst, der einen kostengünstigen, unbegrenzten Objektspeicher für verschiedene Datentypen bietet.	Speichert die PDF-Dokumente, extrahierten Text, das Feinabstimmungs-Dataset und das abgestimmte Modell.
Eventarc	Ein Dienst, der den Ablauf von Statusänderungen (Ereignissen) zwischen entkoppelten Mikrodiensten verwaltet und Ereignisse an verschiedene Ziele weiterleitet, während die Bereitstellung, Sicherheit, Autorisierung, Beobachtbarkeit und Fehlerbehandlung verwaltet wird.	Achtet auf neue Dokumente im Cloud Storage-Bucket und löst ein Ereignis in Cloud Functions aus.
Cloud Functions	Ein einfacher, serverloser Computing-Dienst, mit dem Sie zweckgebundene, eigenständige Funktionen erstellen können, die auf Google Cloud-Ereignisse reagieren, ohne dass Sie eine Server- oder Laufzeitumgebung verwalten müssen.	Orchestriert die Dokumentverarbeitungsschritte.
Document AI	Eine Plattform zum Verständnis von Dokumenten, die unstrukturierte Daten aus Dokumenten in strukturierte Daten transformiert. Sie können mühsame Aufgaben automatisieren, die Datenextraktion verbessern und umfassendere Erkenntnisse aus Daten gewinnen.	Extrahiert den Text aus den Dokumenten.
Vertex AI	Eine ML-Plattform, mit der Sie LLMs und Anwendungen für generative KI trainieren, testen, optimieren und bereitstellen können.	Generiert Fragen und Antworten aus den Dokumenten.
Vektorsuche	Ein Dienst, mit dem Sie dieselbe Infrastruktur verwenden können, die eine Grundlage für Google-Produkte wie die Google Suche, YouTube und Play bietet.	Damit können Sie nach Einbettungen suchen, um semantisch ähnliche oder verwandte Entitäten zu finden.
Firestore	Ein vollständig verwaltetes Dateisystem mit niedriger Latenz für VMs und Cluster, das Hochverfügbarkeit und hohen Durchsatz bietet.	Speichert die generierten Fragen und Antworten.

Kosten

Eine Schätzung der Kosten der Google Cloud-Ressourcen, die von der Wissensdatenbank-Lösung für generative KI verwendet werden, finden Sie im vorab berechneten Schätzwert im Google Cloud-Preisrechner.

Verwenden Sie die vorab berechnete Schätzung als Ausgangspunkt, um die Kosten Ihrer Bereitstellung zu berechnen. Sie können die Schätzung ändern, um alle Konfigurationsänderungen widerzuspiegeln, die Sie für die in der Lösung verwendeten Ressourcen vornehmen möchten.

Die vorab berechnete Schätzung basiert auf Annahmen für bestimmte Faktoren, darunter:

Die Google Cloud-Standorte, an denen die Ressourcen bereitgestellt werden.
Die Zeitdauer der Verwendung der Ressourcen.
Die in Cloud Storage gespeicherte Datenmenge.
Die Häufigkeit, mit der die Wissensdatenbankanwendung aufgerufen wird.
Die Rechenressourcen, die zur Feinabstimmung des Modells verwendet werden.

Hinweise

Zum Bereitstellen dieser Lösung benötigen Sie zuerst ein Google Cloud-Projekt und einige IAM-Berechtigungen.

Google Cloud-Projekt erstellen oder auswählen

Beim Bereitstellen der Lösung wählen Sie das Google Cloud-Projekt aus, in dem die Ressourcen bereitgestellt werden. Sie können entweder ein neues Projekt erstellen oder ein vorhandenes Projekt für die Bereitstellung verwenden.

Wenn Sie ein neues Projekt erstellen möchten, sollten Sie dies tun, bevor Sie mit der Bereitstellung beginnen. Durch die Verwendung eines neuen Projekts können Konflikte mit zuvor bereitgestellten Ressourcen vermieden werden, beispielsweise Ressourcen, die für Produktionsarbeitslasten verwendet werden.

So erstellen Sie ein Projekt:

In the Google Cloud console, go to the project selector page.

Go to project selector
Click Create project.
Name your project. Make a note of your generated project ID.
Edit the other fields as needed.
Click Create.

Erforderliche IAM-Berechtigungen abrufen

Zum Starten des Bereitstellungsprozesses benötigen Sie die in der folgenden Tabelle aufgeführten IAM-Berechtigungen (Identity and Access Management).

Wenn Sie ein neues Projekt für diese Lösung erstellt haben, haben Sie die einfache Rolle roles/owner in diesem Projekt und verfügen über alle erforderlichen Berechtigungen. Wenn Sie die Rolle roles/owner nicht haben, bitten Sie Ihren Administrator, Ihnen die Berechtigungen (oder die Rollen mit diesen Berechtigungen) zu gewähren.

Erforderliche IAM-Berechtigung	Vordefinierte Rolle mit den erforderlichen Berechtigungen
`serviceusage.services.enable`	Service Usage-Administrator (`roles/serviceusage.serviceUsageAdmin`)
`iam.serviceAccounts.create`	Dienstkontoadministrator (`roles/iam.serviceAccountAdmin`)
`resourcemanager.projects.setIamPolicy`	Projekt-IAM-Administrator (`roles/resourcemanager.projectIamAdmin`)
`config.deployments.create` `config.deployments.list`	Cloud Infrastructure Manager Admin (`roles/config.admin`)
`iam.serviceAccount.actAs`	Dienstkontonutzer (`roles/iam.serviceAccountUser`)

Temporäre Dienstkontoberechtigungen

Wenn Sie den Bereitstellungsprozess über die Console starten, erstellt Google ein Dienstkonto, um die Lösung für Sie bereitzustellen und die Bereitstellung später zu löschen, wenn Sie dies möchten. Diesem Dienstkonto werden bestimmte IAM-Berechtigungen vorübergehend zugewiesen. Das heißt, die Berechtigungen werden automatisch widerrufen, nachdem die Bereitstellungs- und Löschvorgänge für die Lösung abgeschlossen sind. Google empfiehlt, dass Sie nach dem Löschen der Bereitstellung das Dienstkonto löschen, wie weiter unten in dieser Anleitung beschrieben.

Rollen aufrufen, die dem Dienstkonto zugewiesen sind

Diese Rollen sind hier aufgeführt, falls ein Administrator Ihres Google Cloud-Projekts oder Ihrer Organisation diese Informationen benötigt.

roles/aiplatform.user
roles/artifactregistry.admin
roles/documentai.editor
roles/firebase.admin
roles/iam.serviceAccountUser
roles/serviceusage.serviceUsageAdmin
roles/iam.serviceAccountAdmin
roles/resourcemanager.projectIamAdmin
roles/config.agent

Lösung bereitstellen

Damit Sie diese Lösung mit minimalem Aufwand bereitstellen können, wird in GitHub eine Terraform-Konfiguration bereitgestellt. Die Terraform-Konfiguration definiert alle Google Cloud-Ressourcen, die für die Lösung erforderlich sind.

Sie können die Lösung mit einer der folgenden Methoden bereitstellen:

Über die Console: Verwenden Sie diese Methode, wenn Sie die Lösung mit der Standardkonfiguration testen und sehen möchten, wie sie funktioniert. Cloud Build stellt alle für die Lösung erforderlichen Ressourcen bereit. Wenn Sie die bereitgestellte Lösung nicht mehr benötigen, können Sie sie aus der Console löschen. Alle Ressourcen, die Sie nach der Bereitstellung der Lösung erstellen, müssen möglicherweise separat gelöscht werden.

Folgen Sie der Anleitung unter Über die Console bereitstellen, um diese Bereitstellungsmethode zu verwenden.
Terraform-Befehlszeile verwenden: Verwenden Sie diese Methode, wenn Sie die Lösung anpassen oder die Bereitstellung und Verwaltung der Ressourcen mithilfe von Infrastruktur als Code (IaC) automatisieren möchten. Laden Sie die Terraform-Konfiguration von GitHub herunter, passen Sie optional den Code nach Bedarf an und stellen Sie die Lösung mit der Terraform-Befehlszeile bereit. Nachdem Sie die Lösung bereitgestellt haben, können Sie sie mit Terraform verwalten.

Folgen Sie der Anleitung unter Mit der Terraform CLI bereitstellen, um diese Bereitstellungsmethode zu verwenden.

Über die Console bereitstellen

Führen Sie die folgenden Schritte aus, um die vorkonfigurierte Lösung bereitzustellen.

Wechseln Sie im Google Cloud-Katalog der Schnellstartlösungen zur Wissensdatenbank-Lösung für generative KI.

Zur Wissensdatenbank-Lösung für generative KI
Prüfen Sie die auf der Seite bereitgestellten Informationen, z. B. die geschätzten Kosten der Lösung und die geschätzte Bereitstellungszeit.
Wenn Sie die Lösung bereitstellen möchten, klicken Sie auf Bereitstellen.

Ein Schritt-für-Schritt-Konfigurationsbereich wird angezeigt.
Führen Sie die Schritte im Konfigurationsbereich aus.

Notieren Sie sich den Namen, den Sie für die Bereitstellung eingegeben haben. Sie benötigen diesen Namen später, wenn Sie die Bereitstellung löschen.

Wenn Sie auf Bereitstellen klicken, wird die Seite Lösungsbereitstellungen angezeigt. Im Feld Status auf dieser Seite wird Wird bereitgestellt angezeigt.
Warten Sie, bis die Lösung bereitgestellt wurde.

Wenn die Bereitstellung fehlschlägt, wird im Feld Status der Eintrag Fehlgeschlagen angezeigt. Sie können das Cloud Build-Log verwenden, um die Fehler zu diagnostizieren. Weitere Informationen finden Sie unter Fehler bei der Bereitstellung über die Console.

Wenn die Bereitstellung abgeschlossen ist, ändert sich das Feld Status in Bereitgestellt.
Nehmen Sie an einer interaktiven Tour in der Console teil, um die bereitgestellten Google Cloud-Ressourcen und ihre Konfiguration aufzurufen.

Tour starten

Weitere Informationen finden Sie unter Lösung verwenden.

Wenn Sie die Lösung nicht mehr benötigen, können Sie die Bereitstellung löschen, um weitere Kosten für die Google Cloud-Ressourcen zu vermeiden. Weitere Informationen finden Sie unter Bereitstellung löschen.

Mit der Terraform-Befehlszeile bereitstellen

In diesem Abschnitt wird beschrieben, wie Sie die Lösung anpassen oder die Bereitstellung und Verwaltung der Lösung mit der Terraform CLI automatisieren können. Lösungen, die Sie mit der Terraform-Befehlszeile bereitstellen, werden auf der Seite Lösungsbereitstellungen in der Google Cloud Console nicht angezeigt.

Terraform-Client einrichten

Sie können Terraform entweder in Cloud Shell oder auf Ihrem lokalen Host ausführen. In dieser Anleitung wird beschrieben, wie Sie Terraform in Cloud Shell ausführen. Dort ist Terraform vorinstalliert und für die Authentifizierung bei Google Cloud konfiguriert.

Der Terraform-Code für diese Lösung ist in einem GitHub-Repository verfügbar.

Klonen Sie das GitHub-Repository in Cloud Shell.

Es wird eine Eingabeaufforderung angezeigt, um das Herunterladen des GitHub-Repositorys in Cloud Shell zu bestätigen.
Klicken Sie auf Bestätigen.

Cloud Shell wird in einem separaten Browser-Tab gestartet und der Terraform-Code wird in das Verzeichnis $HOME/cloudshell_open Ihrer Cloud Shell-Umgebung heruntergeladen.
Prüfen Sie in Cloud Shell, ob das aktuelle Arbeitsverzeichnis $HOME/cloudshell_open/terraform-genai-knowledge-base/ ist. Dies ist das Verzeichnis, das die Terraform-Konfigurationsdateien für die Lösung enthält. Wenn Sie in dieses Verzeichnis wechseln müssen, führen Sie den folgenden Befehl aus:
```
cd $HOME/cloudshell_open/terraform-genai-knowledge-base/
```
Initialisieren Sie Terraform mit dem folgenden Befehl:
```
terraform init
```
Warten Sie, bis folgende Meldung angezeigt wird:
```
Terraform has been successfully initialized!
```

Terraform-Variablen konfigurieren

Der heruntergeladene Terraform-Code enthält Variablen, mit denen Sie die Bereitstellung entsprechend Ihren Anforderungen anpassen können. Sie können beispielsweise das Google Cloud-Projekt und die Region angeben, in der die Lösung bereitgestellt werden soll.

Achten Sie darauf, dass das aktuelle Arbeitsverzeichnis $HOME/cloudshell_open/terraform-genai-knowledge-base/ ist. Ist dies nicht der Fall, wechseln Sie zu diesem Verzeichnis.
Erstellen Sie im selben Verzeichnis eine Textdatei mit dem Namen terraform.tfvars.
Kopieren Sie in der Datei terraform.tfvars das folgende Code-Snippet und legen Sie Werte für die erforderlichen Variablen fest.
- Folgen Sie den Anleitungen, die im Code-Snippet als Kommentare angegeben sind.
- Dieses Code-Snippet enthält nur die Variablen, für die Sie Werte festlegen müssen. Die Terraform-Konfiguration enthält andere Variablen mit Standardwerten. Informationen zu allen Variablen und Standardwerten finden Sie in der Datei variables.tf im Verzeichnis $HOME/cloudshell_open/terraform-genai-knowledge-base/.
- Achten Sie darauf, dass jeder in der Datei terraform.tfvars festgelegte Wert mit dem Typ der Variable übereinstimmt, wie in der Datei variables.tf angegeben. Beispiel: Wenn der Typ, der für eine Variable in der Datei variables.tf definiert wurde, bool ist, müssen Sie true oder false als Wert dieser Variable in der Datei terraform.tfvars angeben.
```
# This is an example of the terraform.tfvars file.
# The values in this file must match the variable types declared in variables.tf.
# The values in this file override any defaults in variables.tf.

# ID of the project in which you want to deploy the solution
project_id = "PROJECT_ID"
```

Terraform-Konfiguration validieren und prüfen

Prüfen Sie, ob das aktuelle Arbeitsverzeichnis $HOME/cloudshell_open/terraform-genai-knowledge-base/ ist. Ist dies nicht der Fall, wechseln Sie zu diesem Verzeichnis.
Prüfen Sie, ob die Terraform-Konfiguration Fehler enthält:
```
terraform validate
```
Wenn der Befehl einen Fehler zurückgibt, nehmen Sie die erforderlichen Korrekturen in der Konfiguration vor und führen Sie den Befehl terraform validate noch einmal aus. Wiederholen Sie diesen Schritt, bis der Befehl die folgende Meldung zurückgibt:
```
Success! The configuration is valid.
```
Sehen Sie sich die Ressourcen an, die in der Konfiguration definiert sind:
```
terraform plan
```
Wenn Sie die Datei terraform.tfvars nicht wie zuvor beschrieben erstellt haben, werden Sie von Terraform zur Eingabe von Werten für die Variablen aufgefordert, die keine Standardwerte haben. Geben Sie die erforderlichen Werte ein.

Die Ausgabe des Befehls terraform plan ist eine Liste der Ressourcen, die Terraform beim Anwenden der Konfiguration bereitstellt.

Wenn Sie Änderungen vornehmen möchten, bearbeiten Sie die Konfiguration und führen Sie dann die Befehle terraform validate und terraform plan noch einmal aus.

Ressourcen bereitstellen

Wenn keine weiteren Änderungen an der Terraform-Konfiguration erforderlich sind, stellen Sie die Ressourcen bereit.

Prüfen Sie, ob das aktuelle Arbeitsverzeichnis $HOME/cloudshell_open/terraform-genai-knowledge-base/ ist. Ist dies nicht der Fall, wechseln Sie zu diesem Verzeichnis.
Wenden Sie die Terraform-Konfiguration an:
```
terraform apply
```
Wenn Sie die Datei terraform.tfvars nicht wie zuvor beschrieben erstellt haben, werden Sie von Terraform zur Eingabe von Werten für die Variablen aufgefordert, die keine Standardwerte haben. Geben Sie die erforderlichen Werte ein.

Terraform zeigt eine Liste der Ressourcen an, die erstellt werden.
Wenn Sie aufgefordert werden, die Aktionen auszuführen, geben Sie yes ein.

In Terraform werden Nachrichten angezeigt, die den Fortschritt der Bereitstellung anzeigen.

Wenn die Bereitstellung nicht abgeschlossen werden kann, zeigt Terraform die Fehler an, die den Fehler verursacht haben. Prüfen Sie die Fehlermeldungen und aktualisieren Sie die Konfiguration, um die Fehler zu beheben. Führen Sie den Befehl terraform apply dann noch einmal aus. Hilfe zur Fehlerbehebung bei Terraform-Fehlern finden Sie unter Fehler bei der Bereitstellung der Lösung mit der Terraform-Befehlszeile.

Nachdem alle Ressourcen erstellt wurden, zeigt Terraform die folgende Meldung an:
```
Apply complete!
```
Nehmen Sie an einer interaktiven Tour in der Console teil, um die bereitgestellten Google Cloud-Ressourcen und ihre Konfiguration aufzurufen.

Tour starten

Als Nächstes können Sie die Lösung verwenden und ihre Funktionsweise sehen.

Lösung verwenden

Sobald die Lösung bereitgestellt wurde, können Sie ein Dokument hochladen, um es zu indexieren und Fragen dazu zu stellen. Darüber hinaus wird eine JSON Lines-Dataset-Abstimmungsdatei (JSONL) generiert, mit der Sie ein LLM per Prompt optimieren können.

Dokument hochladen und Modell abfragen

Laden Sie ein Dokument hoch, um mit dieser Lösung zu beginnen. Stellen Sie dann dem vortrainierten LLM Fragen zum Dokument.

Eine detaillierte Anleitung dazu finden Sie direkt in der Google Cloud Console. Klicken Sie dazu einfach auf Anleitung:

Anleitung

Dieser Vorgang dauert ca. 10 Minuten.

LLM abstimmen

Nachdem Sie Dokumente für die Lösung hochgeladen haben, können Sie mit Vertex AI ein LLM mit Ihren Frage-und-Antwort-Paaren optimieren. Die Feinabstimmung des LLM ist kein automatisierter Prozess. Prüfen Sie vor dem Optimieren des LLM, ob Ihre Daten gültig und korrekt sind. Wenn Sie mit den Daten zufrieden sind, können Sie manuell einen Abstimmungsjob starten und das LLM über Model Registry starten.

Die JSONL-Abstimmungsdatei enthält extrahierte Inhalte aus Ihren Frage-und-Antwort-Paaren. Jede Zeile in der Datei ist ein JSON-Eintrag mit den Feldern input_text und output_text. Das Feld input_text enthält den Inhalt der einzelnen Fragen und das Feld output_text enthält den Inhalt der jeweiligen Antworten.

Die folgende JSONL-Datei enthält beispielsweise die Frage "Wie viele Menschen leben in Peking" und die entsprechende Antwort:

{"input_text": "CONTEXT: With over 21 million residents, Beijing is the
 world's most populous national capital city and is China's second largest
 city after Shanghai. QUESTION: How many people live in Beijing?,
"output_text": "21 million people"}

Klicken Sie auf Anleitung, um eine detaillierte Anleitung zur Feinabstimmung Ihres Modells direkt in der Google Cloud Console zu erhalten.

Anleitung

Diese Schritt-für-Schritt-Anleitung dauert etwa 10 Minuten, die Verarbeitung der Abstimmung des Modells kann jedoch eine Stunde oder länger dauern.

Bereitstellung löschen

Löschen Sie die Bereitstellung, wenn Sie die Lösung nicht mehr benötigen. Wenn Sie die Bereitstellung löschen, werden Ihnen die von Ihnen erstellten Ressourcen nicht mehr in Rechnung gestellt.

Hinweise vor dem Löschen

Bevor Sie diese Lösung löschen, löschen Sie die Bereitstellung des Vektorsuchindex:

Rufen Sie die Seite Vektorsuche auf.

Zur Vektorsuche
Klicken Sie auf knowledge-base-index.
Klicken Sie unter Bereitgestellte Indexe auf more_vert Mehr.
Klicken Sie auf Bereitstellung aufheben.

Sie müssen nicht warten, bis der Löschvorgang des Index abgeschlossen ist.

Über die Console löschen

Verwenden Sie dieses Verfahren, wenn Sie die Lösung über die Console bereitgestellt haben.

Rufen Sie in der Google Cloud Console die Seite Lösungsbereitstellungen auf.

Zu Lösungsbereitstellungen
Wählen Sie das Projekt aus, das die Bereitstellung enthält, die Sie löschen möchten.
Suchen Sie die Bereitstellung, die Sie löschen möchten.
Klicken Sie auf Aktionen und wählen Sie Löschen aus.
Geben Sie den Namen der Bereitstellung ein und klicken Sie auf Bestätigen.

Im Feld Status wird Löschen angezeigt.

Wenn der Löschvorgang fehlschlägt, lesen Sie die Anleitung zur Fehlerbehebung unter Fehler beim Löschen einer Bereitstellung.

Wenn Sie das für die Lösung verwendete Google Cloud-Projekt nicht mehr benötigen, können Sie das Projekt löschen. Weitere Informationen finden Sie unter Optional: Projekt löschen.

Mit der Terraform-Befehlszeile löschen

Verwenden Sie dieses Verfahren, wenn Sie die Lösung mit der Terraform CLI bereitgestellt haben.

Prüfen Sie in Cloud Shell, ob das aktuelle Arbeitsverzeichnis $HOME/cloudshell_open/terraform-genai-knowledge-base/ ist. Ist dies nicht der Fall, wechseln Sie zu diesem Verzeichnis.
Entfernen Sie die von Terraform bereitgestellten Ressourcen:
```
terraform destroy
```
Terraform zeigt eine Liste der Ressourcen an, die gelöscht werden.
Wenn Sie aufgefordert werden, die Aktionen auszuführen, geben Sie yes ein.

Terraform zeigt Nachrichten mit dem Fortschritt an. Nachdem alle Ressourcen gelöscht wurden, zeigt Terraform die folgende Meldung an:
```
Destroy complete!
```
Wenn der Löschvorgang fehlschlägt, lesen Sie die Anleitung zur Fehlerbehebung unter Fehler beim Löschen einer Bereitstellung.

Wenn Sie das für die Lösung verwendete Google Cloud-Projekt nicht mehr benötigen, können Sie das Projekt löschen. Weitere Informationen finden Sie unter Optional: Projekt löschen.

Feinabgestimmtes Modell löschen

Sie müssen das abgestimmte Modell manuell löschen.

Informationen zum Löschen des abgestimmten Modells finden Sie unter Modell aus Vertex AI Model Registry löschen.

Optional: Projekt löschen

Wenn Sie die Lösung in einem neuen Google Cloud-Projekt bereitgestellt haben und das Projekt nicht mehr benötigen, löschen Sie es mit den folgenden Schritten:

Wechseln Sie in der Google Cloud Console zur Seite Ressourcen verwalten.
Zur Seite „Ressourcen verwalten“
Wählen Sie in der Projektliste das Projekt aus, das Sie löschen möchten, und klicken Sie auf Löschen.
Geben Sie an der Eingabeaufforderung die Projekt-ID ein und klicken Sie auf Beenden.

Wenn Sie das Projekt behalten möchten, löschen Sie das Dienstkonto, das für diese Lösung erstellt wurde, wie im nächsten Abschnitt beschrieben.

Optional: Dienstkonto löschen

Wenn Sie das Projekt gelöscht haben, das Sie für die Lösung verwendet haben, überspringen Sie diesen Abschnitt.

Wie bereits in diesem Leitfaden erwähnt, wurde bei der Bereitstellung der Lösung ein Dienstkonto für Sie erstellt. Dem Dienstkonto wurden vorübergehend bestimmte IAM-Berechtigungen zugewiesen; Das heißt, die Berechtigungen werden nach dem Abschluss der Bereitstellungs- und Löschvorgänge der Lösung automatisch widerrufen, aber das Dienstkonto wird nicht gelöscht. Google empfiehlt, dass Sie dieses Dienstkonto löschen.

Wenn Sie die Lösung über die Google Cloud Console bereitgestellt haben, rufen Sie die Seite Lösungsbereitstellungen auf. Wenn Sie sich bereits auf dieser Seite befinden, aktualisieren Sie den Browser. Im Hintergrund wird ein Prozess ausgelöst, mit dem das Dienstkonto gelöscht wird. Es sind keine weiteren Aktionen erforderlich.
Wenn Sie die Lösung mithilfe der Terraform-Befehlszeile bereitgestellt haben, führen Sie folgende Schritte aus:
1. Rufen Sie in der Google Cloud Console die Seite Dienstkonten auf:
  
  Zur Seite „Dienstkonten“
2. Wählen Sie das Projekt aus, das Sie für die Lösung verwendet haben.
3. Wählen Sie das Dienstkonto aus, das Sie löschen möchten.
  
  Die E-Mail-ID des Dienstkontos, das für die Lösung erstellt wurde, hat das folgende Format:
```
goog-sc-DEPLOYMENT_NAME-NNN@PROJECT_ID.iam.gserviceaccount.com
```
  Die E-Mail-ID enthält die folgenden Werte:
  - DEPLOYMENT_NAME: Der Name der Bereitstellung.
  - NNN: Eine zufällige dreistellige Zahl.
  - PROJECT_ID: Die ID des Projekts, in dem Sie die Lösung bereitgestellt haben.
4. Klicken Sie auf Löschen.

Fehler beheben

Welche Aktionen Sie zur Diagnose und Behebung von Fehlern ausführen können, hängt von der Bereitstellungsmethode und der Komplexität des Fehlers ab.

Fehler bei der Bereitstellung über die Console

Wenn Sie die Console verwenden und die Bereitstellung fehlschlägt, gehen Sie so vor:

Rufen Sie die Seite Lösungsbereitstellungen auf.

Wenn die Bereitstellung fehlgeschlagen ist, wird im Feld Status der Eintrag Fehlgeschlagen angezeigt.
So rufen Sie die Details zu den Fehlern auf, die das Problem verursacht haben:
1. Klicken Sie auf Aktionen.
2. Wählen Sie Cloud Build-Logs ansehen aus.
Prüfen Sie das Cloud Build-Log und ergreifen Sie entsprechende Maßnahmen, um das Problem zu beheben.

Fehler bei der Bereitstellung mit der Terraform-Befehlszeile

Wenn die Bereitstellung bei Verwendung von Terraform fehlschlägt, enthält die Ausgabe des Befehls terraform apply Fehlermeldungen, die Sie prüfen können, um das Problem zu diagnostizieren.

Die Beispiele in den folgenden Abschnitten zeigen Bereitstellungsfehler, die bei der Verwendung von Terraform auftreten können.

Fehler „API nicht aktiviert“

Wenn Sie ein Projekt erstellen und dann sofort versuchen, die Lösung im neuen Projekt bereitzustellen, schlägt die Bereitstellung mit folgendem Fehler möglicherweise fehl:

Error: Error creating Network: googleapi: Error 403: Compute Engine API has not
been used in project PROJECT_ID before or it is disabled. Enable it by visiting
https://console.developers.google.com/apis/api/compute.googleapis.com/overview?project=PROJECT_ID
then retry. If you enabled this API recently, wait a few minutes for the action
to propagate to our systems and retry.

Wenn dieser Fehler auftritt, warten Sie einige Minuten und führen Sie dann den Befehl terraform apply noch einmal aus.

Fehler beim Zuweisen der angeforderten Adresse

Wenn Sie den terraform apply-Befehl ausführen, kann ein cannot assign requested address-Fehler mit einer Meldung wie der folgenden auftreten:

Error: Error creating service account:
 Post "https://iam.googleapis.com/v1/projects/PROJECT_ID/serviceAccounts:
 dial tcp [2001:db8:ffff:ffff::5f]:443:
 connect: cannot assign requested address

Wenn dieser Fehler auftritt, führen Sie den terraform apply-Befehl noch einmal aus.

Konfigurationsfehler

Wenn Sie Ressourcenargumente in Ihrer main.tf-Datei mit nicht unterstützten Werten ändern, tritt ein Fehler wie der folgende auf:

Error: Error creating Instance: googleapi: Error 400: Provided Redis version is
not supported: REDIS_5_X
│ com.google.apps.framework.request.StatusException:
  <eye3 title='INVALID_ARGUMENT'/>
  generic::INVALID_ARGUMENT: Provided Redis version is not supported: REDIS_5_X
Details:
│ [>
│   {
│     "@type": "type.googleapis.com/google.rpc.BadRequest",
│     "fieldViolations": [
│       {
│         "description": "Invalid value: REDIS_5_X",
│         "field": "instance.redis_version"
│       }
│     ]
│   }
│ ]
│
│   with google_redis_instance.main,
│   on main.tf line 96, in resource "google_redis_instance" "main":
│   96: resource "google_redis_instance" "main" {

In diesem Fall war die Verwendung der Redis-Version 5 beabsichtigt, aber der für das Argument instance.redis_version (REDIS_5_X) in der Datei main.tf angegebene Wert ist ungültig. Der richtige Wert ist REDIS_5_0, wie in der Memorystore REST API-Dokumentation aufgezählt.

Fehler beim Löschen einer Bereitstellung

In bestimmten Fällen können Versuche, eine Bereitstellung zu löschen, fehlschlagen:

Wenn Sie nach dem Bereitstellen einer Lösung über die Console eine Ressource ändern, die von der Lösung bereitgestellt wurde, und Sie dann versuchen, die Bereitstellung zu löschen, schlägt der Vorgang möglicherweise fehl. Das Feld Status auf der Seite Lösungsbereitstellungen zeigt Fehlgeschlagen und das Cloud Build-Log zeigt die Fehlerursache an.
Wenn Sie nach dem Bereitstellen einer Lösung mit der Terraform-Befehlszeile eine Ressource über eine Nicht-Terraform-Schnittstelle ändern (z. B. die Console) und dann versuchen, die Bereitstellung zu löschen, schlägt der Vorgang möglicherweise fehl. Die Nachrichten in der Ausgabe des Befehls terraform destroy enthalten die Ursache des Fehlers.

Überprüfen Sie die Fehlerlogs und -meldungen, identifizieren und löschen Sie die Ressourcen, die den Fehler verursacht haben, und versuchen Sie dann noch einmal, die Bereitstellung zu löschen.

Wenn eine console-basierte Bereitstellung nicht gelöscht wird und Sie den Fehler nicht mit dem Cloud Build-Log diagnostizieren können, können Sie die Bereitstellung mit der Terraform-Befehlszeile löschen. Dies wird im nächsten Abschnitt beschrieben.

Console-basierte Bereitstellung mithilfe der Terraform-Befehlszeile löschen

In diesem Abschnitt wird beschrieben, wie Sie eine console-basierte Bereitstellung löschen, wenn Fehler beim Löschen aus der Console auftreten. Bei diesem Ansatz laden Sie die Terraform-Konfiguration für die Bereitstellung herunter, die Sie löschen möchten, und verwenden dann die Terraform-Befehlszeile, um die Bereitstellung zu löschen.

Ermitteln Sie die Region, in der der Terraform-Code, die Logs und andere Daten der Bereitstellung gespeichert sind. Diese Region kann sich von der Region unterscheiden, die Sie bei der Bereitstellung der Lösung ausgewählt haben.
1. Rufen Sie in der Google Cloud Console die Seite Lösungsbereitstellungen auf.
  
  Zu „Lösungsbereitstellungen“
2. Wählen Sie das Projekt aus, das die Bereitstellung enthält, die Sie löschen möchten.
3. Identifizieren Sie in der Liste der Bereitstellungen die Zeile für die Bereitstellung, die Sie löschen möchten.
4. Klicken Sie auf Gesamten Zeileninhalt ansehen.
5. Beachten Sie in der Spalte Standort den zweiten Standort, wie im folgenden Beispiel hervorgehoben:
In the Google Cloud console, activate Cloud Shell.

Activate Cloud Shell

At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.
Erstellen Sie Umgebungsvariablen für die Projekt-ID, die Region und den Namen der Bereitstellung, die Sie löschen möchten:
```
export REGION="REGION"
export PROJECT_ID="PROJECT_ID"
export DEPLOYMENT_NAME="DEPLOYMENT_NAME"
```
Ersetzen Sie in diesen Befehlen Folgendes:
- REGION: der Standort, den Sie zuvor in dieser Prozedur notiert haben.
- PROJECT_ID: die ID des Projekts, in dem Sie die Lösung bereitgestellt haben.
- DEPLOYMENT_NAME: der Name der Bereitstellung, die Sie löschen möchten.

Rufen Sie die ID der neuesten Überarbeitung der Bereitstellung ab, die Sie löschen möchten:

export REVISION_ID=$(curl \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    "https://config.googleapis.com/v1alpha2/projects/${PROJECT_ID}/locations/${REGION}/deployments/${DEPLOYMENT_NAME}" \
    | jq .latestRevision -r)
    echo $REVISION_ID

Die Ausgabe sieht in etwa so aus:

projects/PROJECT_ID/locations/REGION/deployments/DEPLOYMENT_NAME/revisions/r-0

Rufen Sie den Cloud Storage-Speicherort der Terraform-Konfiguration für die Bereitstellung ab:

export CONTENT_PATH=$(curl \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    "https://config.googleapis.com/v1alpha2/${REVISION_ID}" \
    | jq .applyResults.content -r)
    echo $CONTENT_PATH

Im Folgenden finden Sie ein Beispiel für die Ausgabe dieses Befehls:

gs://PROJECT_ID-REGION-blueprint-config/DEPLOYMENT_NAME/r-0/apply_results/content

Laden Sie die Terraform-Konfiguration von Cloud Storage in Cloud Shell herunter:
```
gsutil cp -r $CONTENT_PATH $HOME
cd $HOME/content/
```
Warten Sie, bis die Meldung Operation completed angezeigt wird, wie im folgenden Beispiel gezeigt:
```
Operation completed over 45 objects/268.5 KiB
```
Initialisieren Sie Terraform:
```
terraform init
```
Warten Sie, bis folgende Meldung angezeigt wird:
```
Terraform has been successfully initialized!
```
Entfernen Sie die bereitgestellten Ressourcen:
```
terraform destroy
```
Terraform zeigt eine Liste der Ressourcen an, die gelöscht werden.

Wenn Warnungen zu nicht deklarierten Variablen angezeigt werden, ignorieren Sie die Warnungen.
Wenn Sie aufgefordert werden, die Aktionen auszuführen, geben Sie yes ein.

Terraform zeigt Nachrichten mit dem Fortschritt an. Nachdem alle Ressourcen gelöscht wurden, zeigt Terraform die folgende Meldung an:
```
Destroy complete!
```

Löschen Sie das Bereitstellungsartefakt:

curl -X DELETE \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    "https://config.googleapis.com/v1alpha2/projects/${PROJECT_ID}/locations/${REGION}/deployments/${DEPLOYMENT_NAME}?force=true&delete_policy=abandon"

Warten Sie einige Sekunden und prüfen Sie dann, ob das Bereitstellungsartefakt gelöscht wurde:

curl -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    "https://config.googleapis.com/v1alpha2/projects/${PROJECT_ID}/locations/${REGION}/deployments/${DEPLOYMENT_NAME}" \
    | jq .error.message

Wenn in der Ausgabe null angezeigt wird, warten Sie einige Sekunden und führen Sie den Befehl noch einmal aus.

Nachdem das Bereitstellungsartefakt gelöscht wurde, wird wie im folgenden Beispiel gezeigt eine Meldung angezeigt:

Resource 'projects/PROJECT_ID/locations/REGION/deployments/DEPLOYMENT_NAME' was not found

Feedback geben

Schnellstartlösungen dienen nur zu Informationszwecken und sind keine offiziell unterstützten Produkte. Google kann Lösungen ohne Vorankündigung ändern oder entfernen.

Prüfen Sie zur Behebung von Fehlern die Cloud Build-Logs und die Terraform-Ausgabe.

So senden Sie Feedback:

Verwenden Sie für Dokumentation, Anleitungen in der Console oder die Lösung die Schaltfläche Feedback senden auf der Seite.

Erstellen Sie bei unverändertem Terraform-Code Fragen im GitHub-Repository. GitHub-Probleme werden auf Best-Effort-Basis geprüft und sind nicht für allgemeine Fragen zur Nutzung vorgesehen.

Bei Problemen mit Produkten, die in der Lösung verwendet werden, wenden Sie sich an den Cloud Customer Care.

Nächste Schritte

Generative AI für Vertex AI.