Generative KI-Anwendungen mit AlloyDB AI erstellen

AlloyDB AI ist eine Suite von Funktionen, die in AlloyDB for PostgreSQL und AlloyDB Omni enthalten sind und mit denen Sie die semantischen und prädiktiven Möglichkeiten von ML-Modellen (maschinelles Lernen) auf Ihre Daten anwenden können. Auf dieser Seite finden Sie eine Übersicht über die KI-Funktionen, die auf maschinellem Lernen basieren und über AlloyDB verfügbar sind.

Vektoren speichern, indexieren und abfragen

Die Standarderweiterung pgvector von PostgreSQL wird für AlloyDB angepasst und als vector bezeichnet. Es unterstützt das Speichern generierter Einbettungen in einer Vektorspalte. Außerdem wird die Unterstützung für die Skalarquantisierung zum Erstellen von IVF-Indexen hinzugefügt. Sie können auch einen IVFFlat-Index oder HSNW-Index erstellen, der mit dem Stock pgvector verfügbar ist.

Weitere Informationen zum Speichern von Vektoren finden Sie unter Vektoren speichern.

Neben der benutzerdefinierten vector-Erweiterung enthält AlloyDB die alloydb_scann-Erweiterung, die einen hocheffizienten Nearest-Neighbor-Index mit dem ScaNN-Algorithmus implementiert.

Weitere Informationen zum Erstellen von Indexen und Abfragen von Vektoren finden Sie unter Indexe erstellen und Vektoren abfragen.

Leistung von Vektorabfragen optimieren

Sie können Ihre Indexe so optimieren, dass ein Gleichgewicht zwischen Abfragen pro Sekunde (Queries per Second, QPS) und Abruf mit Ihren Abfragen besteht. Weitere Informationen zum Optimieren von Indexen finden Sie unter Leistung von Vektorabfragen optimieren.

Einbettungen und Textvorhersagen generieren

AlloyDB AI erweitert die PostgreSQL-Syntax um zwei Funktionen zum Abfragen von Modellen mit der Erweiterung google_ml_integration:

  • Vorhersagen aufrufen, um ein Modell mithilfe von SQL innerhalb einer Transaktion aufzurufen.

  • Einbettungen generieren, damit ein LLM Textprompts in numerische Vektoren übersetzt.

    Mit der Funktion embedding() können Sie Vertex AI-Modelle abfragen. Mit der Funktion google_ml.embedding() können Sie registrierte Vertex AI-Modelle, gehostete Modelle und Modelle von Drittanbietern abfragen.

    Anschließend können Sie diese Vektoreinbettungen als Eingaben auf pgvector-Funktionen anwenden. Dazu gehören Methoden zum Vergleichen und Sortieren von Textbeispielen anhand ihrer relativen semantischen Entfernung.

Modelle in der Cloud mit Vertex AI verwenden

Sie können AlloyDB Omni für die Verwendung mit Vertex AI konfigurieren.

Das bietet Ihren Anwendungen folgende Vorteile:

  • Ihre Anwendungen können Vorhersagen mit jedem Modell aufrufen, das im Vertex AI Model Garden gespeichert ist und auf das sie Zugriff haben.

  • Ihre Anwendungen können mit dem LLM von textembedding-gecko Einbettungen generieren.

Nächste Schritte