AlloyDB Omni mit AlloyDB AI installieren

Auf dieser Seite erfahren Sie, wie Sie AlloyDB Omni installieren und AlloyDB AI darin einbinden.

AlloyDB AI ist eine Reihe von Funktionen, die in AlloyDB Omni enthalten sind und mit denen Sie generative KI-Anwendungen für Unternehmen erstellen können. Weitere Informationen zu den ML-Funktionen von AlloyDB finden Sie unter Generative AI-Anwendungen erstellen.

Mit AlloyDB Omni und AlloyDB AI können Sie Remote-ML-Modelle abfragen, um mit Onlinevorhersagen und Text-Embeddings zu arbeiten, die von ML-Modellen generiert wurden. AlloyDB Omni mit AlloyDB AI kann auch Vektoreinbettungen aus anderen Inhalten wie einem Bild verarbeiten, z. B. wenn Sie die google_ml.predict_row-Benutzeroberfläche verwenden und die Übersetzung selbst in der Abfrage vornehmen.

Wählen Sie je nachdem, wo Sie AlloyDB Omni mit AlloyDB AI installieren möchten, eine der folgenden Optionen aus:

AlloyDB Omni-Instanz für Abfragen von Remote-Modellen konfigurieren

So konfigurieren Sie AlloyDB Omni für Abfragen an Remote-Modelle:

  1. Erstellen Sie ein Dienstkonto mit Google Cloud.

  2. Erstellen Sie einen Dienstkontoschlüssel im JSON-Format und laden Sie ihn herunter.

  3. Speichern Sie den Schlüssel an einem dauerhaften Speicherort in Ihrem Dateisystem. Sie befindet sich dort während der gesamten Lebensdauer Ihres AlloyDB Omni-Servers.

    Notieren Sie sich den Speicherort im Dateisystem. Sie benötigen ihn für den nächsten Schritt.

  4. Fügen Sie dem entsprechenden Projekt und Dienstkonto IAM-Berechtigungen (Identity and Access Management) für Vertex AI hinzu.

       gcloud projects add-iam-policy-binding PROJECT_ID \
       --member="serviceAccount:SERVICE_ACCOUNT_ID" \
       --role="roles/aiplatform.user"

    Ersetzen Sie Folgendes:

    • PROJECT_ID: die ID Ihres Google Cloud Projekts.

    • SERVICE_ACCOUNT_ID: Die ID des Dienstkontos, das Sie im vorherigen Schritt erstellt haben. Dazu gehört das vollständige @PROJECT_ID.iam.gserviceaccount.com-Suffix, z. B. my-service@my-project.iam.gserviceaccount.com.

AlloyDB Omni mit AlloyDB AI installieren

So installieren Sie AlloyDB Omni und integrieren AlloyDB AI:

  1. Sie müssen alle Schritte unter AlloyDB Omni für Abfragen cloudbasierter Modelle konfigurieren ausgeführt haben.

  2. Erstellen Sie eine lokale Kopie der Standardkonfigurationsdatei für AlloyDB Omni:

       docker run -i --rm google/alloydbomni:15.5.4 cat /usr/share/postgresql/postgresql.conf.sample > my-postgres.conf

  3. Bearbeiten Sie die Kopie der Konfigurationsdatei, um Anweisungen für die AlloyDB-KI-Integration hinzuzufügen:

       echo "omni_enable_ml_agent_process = 'on'" >> my-postgres.conf
   echo "omni_google_cloud_private_key_file_path = '/etc/postgresql/private-key.json'" >> my-postgres.conf

  4. Passen Sie die Dateisystemberechtigungen der Schlüssel- und Konfigurationsdateien an:

       sudo chmod +r my-postgres.conf
   sudo chmod +r KEY_PATH

    Ersetzen Sie KEY_PATH durch den Pfad zur privaten Schlüsseldatei des Dienstkontos in Ihrem Hostdateisystem. Dies ist der Schlüssel, den Sie zuvor in diesem Verfahren erstellt und heruntergeladen haben.

  5. Installieren Sie die Schlüssel- und Konfigurationsdateien, die im Container bereitgestellt werden:

       docker run --name CONTAINER_NAME -e POSTGRES_PASSWORD=NEW_PASSWORD -p HOST_PORT:5432 -v "$PWD/my-postgres.conf":/etc/postgresql/postgresql.conf -v "FULL_KEY_PATH":/etc/postgresql/private-key.json -d google/alloydbomni:15.5.4 -c 'config_file=/etc/postgresql/postgresql.conf'

    Ersetzen Sie Folgendes:

    • CONTAINER_NAME: Der Name, der diesem neuen Container mit der vereinfachten AlloyDB Omni-Installationsmethode in der Containerregistrierung Ihres Hosts zugewiesen werden soll, z. B. my-omni-1.

    • NEW_PASSWORD: Das Passwort, das dem postgres-Nutzer des neuen Containers nach der Erstellung zugewiesen wurde.

    • HOST_PORT: der TCP-Port auf dem Hostcomputer, unter dem der Container seinen eigenen Port 5432 veröffentlichen soll. Wenn Sie den PostgreSQL-Standardport auch auf dem Hostcomputer verwenden möchten, geben Sie 5432 an.

    • FULL_KEY_PATH: Der vollständige Dateisystempfad zur privaten Schlüsseldatei des Dienstkontos auf Ihrem Hostsystem.

AlloyDB Omni mit AlloyDB AI-Installation prüfen

Geben Sie Folgendes ein, um zu prüfen, ob die Installation erfolgreich war und die Modellvorhersage verwendet wird:

   CREATE EXTENSION google_ml_integration CASCADE;

   SELECT array_dims(embedding( 'textembedding-gecko@001', 'AlloyDB AI')::real[]);
   array_dims

Die Ausgabe sieht dann ungefähr so aus:

    [1:768]
    (1 row)

In der vorherigen Abfrage werden durch den embedding()-Aufruf Einbettungen für den Eingabetext AlloyDB AI generiert. array_dims gibt die Dimensionen des Arrays zurück, das von embedding() zurückgegeben wird. Da das vorab registrierte textembedding-gecko-Modell eine Ausgabe mit 768 Dimensionen zurückgibt, ist die Ausgabe [768].

Nächste Schritte