Creare applicazioni basate su LLM utilizzando LangChain

Anteprima - LangChain

Questa funzionalità è soggetta ai "Termini delle Offerte pre-GA" nella sezione Termini generali del servizio dei Termini specifici dei servizi. Le funzionalità pre-GA sono disponibili "così come sono" e potrebbero avere un supporto limitato. Per saperne di più, consulta le descrizioni della fase di lancio.

Questa pagina illustra come creare applicazioni basate su LLM utilizzando LangChain. Le panoramiche link alla pagina delle guide alle procedure in GitHub.

Che cos'è LangChain?

LangChain è un framework di orchestrazione LLM che aiuta gli sviluppatori a creare applicazioni di AI generativa o flussi di lavoro RAG (Retrieval-Augmented Generation). it fornisce la struttura, gli strumenti e i componenti per semplificare i modelli LLM complessi per i flussi di lavoro.

Per ulteriori informazioni su LangChain, consulta LangChain . Per ulteriori informazioni sul framework LangChain, consulta LangChain documentazione del prodotto.

Componenti LangChain per Spanner

Spanner offre le seguenti interfacce LangChain:

• Negozio di vettori
• Caricatore documenti
• Cronologia dei messaggi di Chat

Scopri come utilizzare questi componenti in un'applicazione con il modulo LangChain Guida rapida per Spanner.

Archivio vettoriale per Spanner

L'archivio vettoriale recupera e archivia documenti e metadati da un database vettoriale. Il datastore vettoriale dà a un'applicazione la possibilità di eseguire ricerche semantiche interpretare il significato di una query dell'utente. Questo tipo di ricerca è chiamato ricerca vettoriale e può trovare argomenti che corrispondono concettualmente alla query. Alle ore alla query, Vector Store recupera i vettori di incorporamento più simile all'incorporamento della richiesta di ricerca. In LangChain, un vettore si occupa di archiviare i dati incorporati ed eseguire la ricerca vettoriale per te.

Per lavorare con l'archivio vettoriale in Spanner, utilizza la classe SpannerVectorStore corso.

Per ulteriori informazioni, consulta la sezione sul vettore di LangChain Negozi documentazione del prodotto.

Guida alle procedure di archiviazione vettoriale

La guida di Spanner per i vettori negozio ti mostra come fare:

• Installa il pacchetto di integrazione e LangChain
• Inizializza una tabella per l'archivio vettoriale
• Configura un servizio di incorporamento utilizzando VertexAIEmbeddings
• Inizializza SpannerVectorStore
• Aggiungi ed elimina documenti
• Cerca documenti simili
• Crea un archivio vettoriale personalizzato da connettere a uno Spanner preesistente un database contenente una tabella con incorporamenti vettoriali

Caricatore di documenti per Spanner

Il caricatore di documenti salva, carica ed elimina un elemento LangChain Document di oggetti strutturati. Ad esempio, puoi caricare i dati da elaborare negli incorporamenti archiviarli in un archivio vettoriale o usarli come strumento per fornire un contesto specifico alle catene.

Per caricare documenti da Spanner, utilizza la classe SpannerLoader. Utilizza il corso SpannerDocumentSaver per salvare ed eliminare documenti.

Per ulteriori informazioni, consulta il documento LangChain caricatori.

Guida alle procedure del caricatore di documenti

La guida di Spanner per i documenti caricatore ti mostra come fare:

• Installa il pacchetto di integrazione e LangChain
• Caricare documenti da una tabella
• Aggiungi un filtro al caricatore
• Personalizza la connessione e l'autenticazione
• Personalizza la creazione di documenti specificando i contenuti e i metadati dei clienti
• Come utilizzare e personalizzare un SpannerDocumentSaver per archiviare ed eliminare documenti

Cronologia dei messaggi di Chat per Spanner

Le applicazioni di domande e risposte richiedono una cronologia delle cose dette nel conversazione per fornire il contesto dell'applicazione e rispondere ad altre domande da parte dell'utente. La classe LangChain ChatMessageHistory consente all'applicazione salvare i messaggi in un database e recuperarli quando necessario per formulare ulteriormente risposte. Un messaggio può essere una domanda, una risposta, un'affermazione, un saluto o qualsiasi altra porzione di testo fornita dall'utente o dall'applicazione durante la conversazione. ChatMessageHistory archivia ogni messaggio e concatena i messaggi per ciascuno conversazione.

Spanner estende questa classe con SpannerChatMessageHistory.

Guida alla procedura per la cronologia dei messaggi di Chat

La guida di Spanner per il messaggio di chat cronologia ti mostra come:

• Installa LangChain ed esegui l'autenticazione su Google Cloud
• Inizializzare una tabella
• Inizializza la classe SpannerChatMessageHistory per aggiungere ed eliminare messaggi
• Utilizza un client per personalizzare la connessione e l'autenticazione
• Elimina la sessione SpannerChatMessageHistory