LLM-gestützte Anwendungen mit LangChain erstellen

Auf dieser Seite wird erläutert, wie Sie LLM-basierte Anwendungen mit LangChain erstellen. Die Übersichten auf dieser Seite verweisen zu den Verfahrensanleitungen in GitHub.

Was ist LangChain?

LangChain ist ein LLM-Orchestrierungs-Framework, mit dem Entwickler generative KI-Anwendungen oder RAG-Workflows (Retrieval Augmented Generation) erstellen können. Es bietet die Struktur, die Tools und die Komponenten, um komplexe LLM-Workflows zu optimieren.

Weitere Informationen zu LangChain finden Sie auf der Seite Google LangChain. Weitere Informationen zum LangChain-Framework finden Sie in der Produktdokumentation LangChain.

LangChain-Komponenten für Cloud SQL for PostgreSQL

Cloud SQL for PostgreSQL bietet die folgenden LangChain-Schnittstellen:

Mehr über die Verwendung von LangChain mit der LangChain-Kurzanleitung für Cloud SQL for PostgreSQL erfahren.

Vektorspeicher für Cloud SQL for PostgreSQL

Mit dem Vektorspeicher werden Dokumente und Metadaten aus einer Vektordatenbank abgerufen und gespeichert. Der Vektorspeicher bietet einer Anwendung die Möglichkeit, semantische Suchen durchzuführen, die die Bedeutung einer Nutzerabfrage interpretieren. Diese Art der Suche wird als Vektorsuche bezeichnet und kann Themen finden, die konzeptionell der Abfrage entsprechen. Zum Zeitpunkt der Abfrage ruft der Vektorspeicher die Einbettungsvektoren ab, die der Einbettung der Suchanfrage am ähnlichsten sind. In LangChain übernimmt ein Vektorspeicher das Speichern eingebetteter Daten und das Ausführen der Vektorsuche für Sie.

Verwenden Sie die Klasse PostgresVectorStore, um mit dem Vektorspeicher in Cloud SQL for PostgreSQL zu arbeiten.

Weitere Informationen finden Sie in der Produktdokumentation zu LangChain Vector Stores.

Anleitung zum Verfahren für den Vektorspeicher

In der Cloud SQL for PostgreSQL-Anleitung für Vektorspeicher erfahren Sie, wie Sie Folgendes tun:

  • Integrationspaket und LangChain installieren
  • Erstellen Sie ein PostgresEngine-Objekt und konfigurieren Sie einen Verbindungspool zu Ihrer Cloud SQL for PostgreSQL-Datenbank
  • Tabelle initialisieren
  • Einbettungsobjekt mit VertexAIEmbeddings erstellen
  • Standard-PostgresVectorStore initialisieren
  • Texte hinzufügen
  • Texte löschen
  • Nach Dokumenten suchen
  • Dokumente anhand eines Vektors suchen
  • Index hinzufügen, um Vektorsuchanfragen zu beschleunigen
  • Neuindexierung
  • Index entfernen
  • Benutzerdefinierten Vektorspeicher erstellen
  • Mit einem Metadatenfilter nach Dokumenten suchen

Dokument-Ladeprogramm für Cloud SQL for PostgreSQL

Der Dokument-Loader speichert, lädt und löscht LangChain-Document-Objekte. Beispielsweise können Sie Daten zur Verarbeitung in Einbettungen laden und entweder im Vektorspeicher speichern oder sie als Tool verwenden, um spezifischen Kontext für Ketten bereitzustellen.

Verwenden Sie die Klasse PostgresLoader, um Dokumente aus dem Dokument-Loader in Cloud SQL for PostgreSQL zu laden. PostgresLoader gibt eine Liste von Dokumenten aus einer Tabelle zurück, wobei die erste Spalte für den Seiteninhalt und alle anderen Spalten für Metadaten verwendet werden. Die Standardtabelle enthält die erste Spalte als Seiteninhalt und die zweite Spalte als JSON-Metadaten. Jede Zeile wird zu einem Dokument. Verwenden Sie die Klasse PostgresDocumentSaver, um Dokumente zu speichern und zu löschen.

Weitere Informationen finden Sie unter LangChain-Dokument-Loader.

Anleitung zum Laden von Dokumenten

In der Cloud SQL for PostgreSQL-Anleitung für das Laden von Dokumenten werden die folgenden Aufgaben erläutert:

  • Integrationspaket und LangChain installieren
  • Dokumente aus einer Tabelle laden
  • Filter zum Loader hinzufügen
  • Verbindung und Authentifizierung anpassen
  • Dokumenterstellung durch Angabe von Kundeninhalten und Metadaten anpassen
  • PostgresDocumentSaver zum Speichern und Löschen von Dokumenten verwenden und anpassen

Chatnachrichtenverlauf für Cloud SQL for PostgreSQL

Frage-und-Antwort-Anwendungen erfordern einen Verlauf der in der Unterhaltung gesprochenen Dinge, um der Anwendung Kontext zur Beantwortung weiterer Fragen des Nutzers zu bieten. Die LangChain-Klasse ChatMessageHistory ermöglicht der Anwendung, Nachrichten in einer Datenbank zu speichern und bei Bedarf zur Formulierung weiterer Antworten abzurufen. Eine Nachricht kann eine Frage, eine Antwort, eine Aussage, eine Begrüßung oder andere Texte sein, die der Nutzer oder die Anwendung während der Unterhaltung gibt. ChatMessageHistory speichert jede Nachricht und verkettet Nachrichten für jede Unterhaltung.

Cloud SQL for PostgreSQL erweitert diese Klasse mit PostgresChatMessageHistory.

Anleitung zum Verfahren für den Chat-Nachrichtenverlauf

Im Cloud SQL for PostgreSQL-Leitfaden für den Verlauf von Chatnachrichten erfahren Sie, wie Sie Folgendes tun können:

  • LangChain installieren und bei Google Cloud authentifizieren
  • Erstellen Sie ein PostgresEngine-Objekt und konfigurieren Sie einen Verbindungspool zu Ihrer Cloud SQL for PostgreSQL-Datenbank
  • Tabelle initialisieren
  • Initialisieren Sie die PostgresChatMessageHistory-Klasse, um Nachrichten hinzuzufügen und zu löschen.
  • Erstellen Sie eine Kette für den Nachrichtenverlauf mit der LangChain Expression Language (LCEL) und den Vertex AI-Chatmodellen von Google.

Nächste Schritte