Creare applicazioni basate su LLM utilizzando LangChain

Questa pagina illustra come creare applicazioni basate su LLM utilizzando LangChain. Le panoramiche in questa pagina rimandano alle guide alle procedure su GitHub.

Che cos'è LangChain?

LangChain è un framework di orchestrazione LLM che aiuta gli sviluppatori a creare applicazioni di AI generativa o flussi di lavoro RAG (Retrieval-Augmented Generation). Fornisce la struttura, gli strumenti e i componenti per semplificare i flussi di lavoro LLM complessi.

Per ulteriori informazioni su LangChain, consulta la pagina Google LangChain. Per ulteriori informazioni sul framework LangChain, consulta la documentazione del prodotto LangChain.

Componenti LangChain per Spanner

Spanner offre le seguenti interfacce LangChain:

Scopri come utilizzare questi componenti in un'applicazione con la guida introduttiva di LangChain per Spanner.

Negozio di vettori per Spanner

Il repository di vettori recupera e archivia documenti e metadati da un database vettoriale. Il Vector Store offre a un'applicazione la possibilità di eseguire ricerche semantiche che interpretino il significato di una query dell'utente. Questo tipo di ricerca è chiamata ricerca vettoriale e può trovare argomenti che corrispondono concettualmente alla query. Al momento della query, lo spazio vettoriale recupera gli embedding più simili a quello della richiesta di ricerca. In LangChain, un datastore vettoriale si occupa di archiviare i dati incorporati ed eseguire la ricerca vettoriale per te.

Per lavorare con lo spazio vettoriale in Spanner, utilizza la classe SpannerVectorStore.

Per ulteriori informazioni, consulta la sezione sul vettore di LangChain Negozi documentazione del prodotto.

Guida alla procedura del negozio Vector

La guida di Spanner per la tabella vettoriale illustra come:

  • Installa il pacchetto di integrazione e LangChain
  • Inizializza una tabella per l'archivio vettoriale
  • Configurare un servizio di incorporamento utilizzando VertexAIEmbeddings
  • Inizializza SpannerVectorStore
  • Aggiungere ed eliminare documenti
  • Cerca documenti simili
  • Crea un archivio vettoriale personalizzato da connettere a uno Spanner preesistente un database contenente una tabella con incorporamenti vettoriali

Caricatore di documenti per Spanner

Il caricatore di documenti salva, carica ed elimina un elemento LangChain Document di oggetti strutturati. Ad esempio, puoi caricare i dati per l'elaborazione negli embedding e immagazzinarli nel repository di vettori o utilizzarli come strumento per fornire un contesto specifico alle catene.

Per caricare i documenti da Spanner, utilizza la classe SpannerLoader. Utilizza il corso SpannerDocumentSaver per salvare ed eliminare documenti.

Per ulteriori informazioni, consulta l'argomento Caricatori di documenti di LangChain.

Guida alla procedura del caricatore di documenti

La guida di Spanner per il caricamento di documenti illustra come:

  • Installa il pacchetto di integrazione e LangChain
  • Caricare documenti da una tabella
  • Aggiungi un filtro al caricatore
  • Personalizzare la connessione e l'autenticazione
  • Personalizza la costruzione del documento specificando i contenuti e i metadati del cliente
  • Come utilizzare e personalizzare un SpannerDocumentSaver per archiviare ed eliminare i documenti

Cronologia dei messaggi di Chat per Spanner

Le applicazioni di domande e risposte richiedono una cronologia delle cose dette nella conversazione per fornire il contesto dell'applicazione per rispondere ad altre domande dell'utente. La classe LangChain ChatMessageHistory consente all'applicazione di salvare i messaggi in un database e recuperarli quando necessario per formulare ulteriori risposte. Un messaggio può essere una domanda, una risposta, un'affermazione, un saluto o qualsiasi altra porzione di testo fornita dall'utente o dall'applicazione durante la conversazione. ChatMessageHistory archivia ogni messaggio e concatena i messaggi per ciascuno conversazione.

Spanner estende questa classe con SpannerChatMessageHistory.

Guida alla procedura per la cronologia dei messaggi di Chat

La guida di Spanner per il messaggio di chat cronologia ti mostra come:

  • Installa LangChain ed esegui l'autenticazione su Google Cloud
  • Inizializzare una tabella
  • Inizializza la classe SpannerChatMessageHistory per aggiungere ed eliminare messaggi
  • Utilizzare un client per personalizzare la connessione e l'autenticazione
  • Elimina la sessione SpannerChatMessageHistory