In Vertex AI einbinden

Auf dieser Seite erfahren Sie, wie Sie die Integration zwischen AlloyDB for PostgreSQL und Vertex AI einrichten. So können Sie Abfragen auf in der Cloud gespeicherte Large Language Models (LLMs) anwenden.

Diese Anleitung bezieht sich auf die Verwendung von AlloyDB, nicht von AlloyDB Omni. Informationen zum Einbinden einer lokalen Installation von AlloyDB Omni mit Vertex AI finden Sie unter AlloyDB Omni mit AlloyDB AI installieren.

Weitere Informationen zur Verwendung von ML-Modellen mit AlloyDB finden Sie unter Generative AI-Anwendungen mit AlloyDB AI erstellen.

Weitere Informationen zu Vertex AI finden Sie unter Einführung in Vertex AI.

Hinweise

1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

3. Make sure that billing is enabled for your Google Cloud project.

4. Enable the Vertex AI API.

   Enable the API

5. Install the Google Cloud CLI.

6. To initialize the gcloud CLI, run the following command:

   gcloud init

7. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

8. Make sure that billing is enabled for your Google Cloud project.

9. Enable the Vertex AI API.

   Enable the API

10. Install the Google Cloud CLI.

11. To initialize the gcloud CLI, run the following command:

    gcloud init

Vertex AI-Nutzerberechtigung für AlloyDB-Dienst-Agent erteilen

Führen Sie die folgenden Schritte aus, um die Datenbankeinbindung in Vertex AI zu aktivieren und dem AlloyDB-Dienstagenten IAM-Berechtigungen (Identity and Access Management) für den Zugriff auf Vertex AI zu gewähren:

Fügen Sie dem AlloyDB-Dienst-Agent für das Projekt, in dem sich der Cluster der AlloyDB-Datenbank befindet, Vertex AI-Berechtigungen hinzu:

Konsole

1. Rufen Sie in der Google Cloud Console die Seite Willkommen auf und kopieren Sie die Projektnummer des Projekts mit AlloyDB-Clustern oder ‑Instanzen. Sie benötigen diese Projektnummer für die nächsten Schritte.

   Zur Begrüßungsseite

2. Öffnen Sie in der Google Cloud Console die Seite IAM.

   IAM aufrufen

3. Wählen Sie das Projekt mit Vertex AI-Endpunkten aus.

4. Aktivieren Sie Von Google bereitgestellte Rollenzuweisungen einschließen.

5. Klicken Sie auf Zugriff gewähren.

6. Geben Sie im Feld Neue Hauptkonten Folgendes ein:

       [e-mail]
       

   Ersetzen Sie PROJECT_NUMBER durch die Projektnummer.

7. Geben Sie im Feld Rolle Vertex AI-Nutzer ein.

8. Klicken Sie auf Speichern.

gcloud

1. Wenn Sie die gcloud CLI verwenden möchten, können Sie die Google Cloud CLI installieren und initialisieren oder Cloud Shell verwenden.

   gcloud projects add-iam-policy-binding PROJECT_ID 
   
   --member="serviceAccount:[e-mail]" 
   
   --role="roles/aiplatform.user"
   

   Ersetzen Sie Folgendes:

• PROJECT_ID: Die ID des Projekts mit dem Vertex AI-Endpunkt.
• PROJECT_NUMBER: Die Projektnummer des Projekts, das AlloyDB-Cluster oder ‑Instanzen enthält.

Hinweis: Die Richtlinienänderung tritt innerhalb von 60 Sekunden bis 7 Minuten in Kraft.

Installierte Erweiterung prüfen

Prüfen Sie, ob die google_ml_integration in der Datenbank installiert ist, die die Daten enthält, für die Sie Vorhersagen ausführen möchten:

1. Stellen Sie eine Verbindung von einem psql-Client zur primären Instanz des Clusters her, wie unter Verbindung eines psql-Clients mit einer Instanz herstellen beschrieben.

   Hinweis: Sie müssen eine Verbindung zur primären Instanz herstellen, auch wenn Sie Vorhersagen erhalten möchten, während Sie mit einer Lesepool-Instanz verbunden sind.

2. Stellen Sie über die Eingabeaufforderung psql eine Verbindung zur Datenbank her:

   \c DB_NAME

   Ersetzen Sie DB_NAME durch den Namen der Datenbank, in der Sie die Erweiterung installieren möchten.

3. Prüfen Sie, ob die google_ml_integration-Erweiterung Version 1.4.2 oder höher installiert ist:

   SELECT extversion FROM pg_extension WHERE extname = 'google_ml_integration';

4. Optional. So installieren Sie die aktuelle Version der Erweiterung manuell:

   CREATE EXTENSION google_ml_integration VERSION '1.4.2';

5. Optional. Wenn Sie eine ältere Version als 1.4.2 verwenden, aktualisieren Sie die Erweiterung auf die neueste Version:

   ALTER EXTENSION google_ml_integration UPDATE TO '1.4.2'

Nächste Schritte

• Mit Einbettungen arbeiten

• Vorhersagen aufrufen

• Vertex AI-Kontingente und -Limits

• Remote-Modellendpunkte aufrufen