LLM-gestützte Anwendungen mit LangChain erstellen

Auf dieser Seite wird beschrieben, wie Sie LLM-gestützte Anwendungen mit LangChain erstellen. Die Übersichten auf dieser Seite verweisen auf Leitfäden für die Eingriffe in GitHub.

Was ist LangChain?

LangChain ist ein LLM-Orchestrierungsframework, mit dem Entwickler Generative AI-Anwendungen oder RAG-Workflows (Retrieval-Augmented Generation) erstellen können. Es bietet die Struktur, Tools und Komponenten, um komplexe LLM-Workflows zu optimieren.

Weitere Informationen zu LangChain finden Sie auf der Seite Google LangChain. Weitere Informationen zum LangChain-Framework finden Sie in der LangChain-Produktdokumentation.

LangChain-Komponenten für Spanner

Spanner bietet die folgenden LangChain-Schnittstellen:

Informationen zum Verwenden dieser Komponenten in einer Anwendung finden Sie in der LangChain-Kurzanleitung für Spanner.

Vektorspeicher für Spanner

Im Vektorspeicher werden Dokumente und Metadaten aus einer Vektordatenbank abgerufen und gespeichert. Mit einem Vektorspeicher kann eine Anwendung semantische Suchen ausführen, die die Bedeutung einer Nutzerabfrage interpretieren. Diese Art der Suche wird als Vektorsuche bezeichnet und kann Themen finden, die konzeptionell mit der Abfrage übereinstimmen. Bei der Abfrage ruft der Vektorspeicher die Einbettungsvektoren ab, die der Einbettung der Suchanfrage am ähnlichsten sind. In LangChain speichert ein Vektorspeicher eingebettete Daten und führt die Vektorsuche für Sie durch.

Verwenden Sie die Klasse SpannerVectorStore, um mit dem Vektorspeicher in Spanner zu arbeiten.

Weitere Informationen finden Sie in der Produktdokumentation zu LangChain Vector Stores.

Leitfaden für Vector Store-Verfahren

Im Spanner-Leitfaden für den Vektorspeicher erfahren Sie, wie Sie Folgendes tun:

  • Integrationspaket und LangChain installieren
  • Tabelle für den Vektorspeicher initialisieren
  • Einbettungsdienst mit VertexAIEmbeddings einrichten
  • SpannerVectorStore initialisieren
  • Dokumente hinzufügen und löschen
  • Nach ähnlichen Dokumenten suchen
  • Benutzerdefinierten Vektorspeicher erstellen, um eine Verbindung zu einer bereits vorhandenen Spanner-Datenbank herzustellen, die eine Tabelle mit Vektoreinbettungen enthält

Dokumentladeprogramm für Spanner

Das Ladeprogramm für Dokumente speichert, lädt und löscht LangChain-Objekte vom Typ Document. Sie können beispielsweise Daten zur Verarbeitung in Einbettungen laden und sie entweder im Vektorspeicher speichern oder sie als Tool verwenden, um spezifischen Kontext für Ketten bereitzustellen.

Verwenden Sie die Klasse SpannerLoader, um Dokumente aus Spanner zu laden. Verwenden Sie die Klasse SpannerDocumentSaver, um Dokumente zu speichern und zu löschen.

Weitere Informationen finden Sie im Thema LangChain-Dokumentladeprogramme.

Leitfaden zum Dokumentladevorgang

Im Spanner-Leitfaden für das Dokumentladegerät finden Sie Anleitungen für folgende Aufgaben:

  • Integrationspaket und LangChain installieren
  • Dokumente aus einer Tabelle laden
  • Filter zum Ladeprogramm hinzufügen
  • Verbindung und Authentifizierung anpassen
  • Passen Sie die Dokumenterstellung an, indem Sie Kundeninhalte und Metadaten angeben
  • SpannerDocumentSaver zum Speichern und Löschen von Dokumenten verwenden und anpassen

Chatnachrichtenverlauf für Spanner

Frage-und-Antwort-Anwendungen erfordern einen Verlauf der in der Unterhaltung gesprochenen Dinge, um der Anwendung Kontext zur Beantwortung weiterer Fragen des Nutzers zu liefern. Mit der LangChain-Klasse ChatMessageHistory kann die Anwendung Nachrichten in einer Datenbank speichern und bei Bedarf abrufen, um weitere Antworten zu formulieren. Eine Nachricht kann eine Frage, eine Antwort, eine Aussage, eine Begrüßung oder ein anderer Text sein, den der Nutzer oder eine Anwendung während der Unterhaltung gibt. ChatMessageHistory speichert jede Nachricht und verkettet Nachrichten für jede Unterhaltung.

Spanner erweitert diese Klasse um SpannerChatMessageHistory.

Leitfaden zum Chatprotokoll

Im Spanner-Leitfaden für den Nachrichtenverlauf erfahren Sie, wie Sie Folgendes tun:

  • LangChain installieren und bei Google Cloud authentifizieren
  • Tabelle initialisieren
  • Initialisieren Sie die Klasse SpannerChatMessageHistory, um Nachrichten hinzuzufügen und zu löschen.
  • Verwenden Sie einen Client, um die Verbindung und Authentifizierung anzupassen
  • SpannerChatMessageHistory-Sitzung löschen