Creare applicazioni basate su LLM utilizzando LangChain

Questa pagina illustra come creare applicazioni basate su LLM utilizzando LangChain. Le panoramiche link alla pagina delle guide alle procedure in GitHub.

Che cos'è LangChain?

LangChain è un framework di orchestrazione LLM che aiuta gli sviluppatori a creare applicazioni di AI generativa o flussi di lavoro RAG (Retrieval-Augmented Generation). it fornisce la struttura, gli strumenti e i componenti per semplificare i modelli LLM complessi per i flussi di lavoro.

Per ulteriori informazioni su LangChain, consulta LangChain . Per ulteriori informazioni sul framework LangChain, consulta LangChain documentazione del prodotto.

Componenti LangChain per Cloud SQL per PostgreSQL

Cloud SQL per PostgreSQL offre le seguenti interfacce LangChain:

Scopri come utilizzare LangChain con la guida rapida di LangChain per Cloud SQL per PostgreSQL.

Archivio vettoriale per Cloud SQL per PostgreSQL

L'archivio vettoriale recupera e archivia documenti e metadati da un database vettoriale. Il datastore vettoriale dà a un'applicazione la possibilità di eseguire ricerche semantiche interpretare il significato di una query dell'utente. Questo tipo di ricerca è chiamato ricerca vettoriale e può trovare argomenti che corrispondono concettualmente alla query. Alle ore alla query, Vector Store recupera i vettori di incorporamento più simile all'incorporamento della richiesta di ricerca. In LangChain, un vettore si occupa di archiviare i dati incorporati ed eseguire la ricerca vettoriale per te.

Per lavorare con l'archivio vettoriale in Cloud SQL per PostgreSQL, utilizza il metodo PostgresVectorStore corso.

Per ulteriori informazioni, consulta la sezione sul vettore di LangChain Negozi documentazione del prodotto.

Guida alle procedure di archiviazione vettoriale

La guida di Cloud SQL per PostgreSQL per i vettori negozio ti mostra come fare:

  • Installa il pacchetto di integrazione e LangChain
  • Crea un oggetto PostgresEngine e configura un pool di connessioni al tuo Database Cloud SQL per PostgreSQL
  • Inizializzare una tabella
  • Crea un oggetto di incorporamento utilizzando VertexAIEmbeddings
  • Inizializza un oggetto PostgresVectorStore predefinito
  • Aggiungi testi
  • Elimina SMS
  • Cerca documenti
  • Cerca documenti per vettore
  • Aggiungi un indice per accelerare le query di ricerca vettoriali
  • Reindicizzazione
  • Rimuovere un indice
  • Crea un archivio vettoriale personalizzato
  • Cercare documenti con un filtro di metadati

Caricatore di documenti per Cloud SQL per PostgreSQL

Il caricatore di documenti salva, carica ed elimina un elemento LangChain Document di oggetti strutturati. Ad esempio, puoi caricare i dati da elaborare negli incorporamenti archiviarli in un archivio vettoriale o usarli come strumento per fornire un contesto specifico alle catene.

Per caricare documenti dal caricatore di documenti in Cloud SQL per PostgreSQL, utilizza il metodo PostgresLoader corso. PostgresLoader restituisce un elenco di documenti da un di Google utilizzando la prima colonna per i contenuti della pagina e tutte le altre colonne per metadati. La tabella predefinita ha la prima colonna come contenuto della pagina e la seconda come metadati JSON. Ogni riga diventa un documento. Utilizza la PostgresDocumentSaver corso per salvare ed eliminare documenti.

Per ulteriori informazioni, consulta il documento LangChain caricatori.

Guida alle procedure del caricatore di documenti

La guida di Cloud SQL per PostgreSQL per il documento loader ti mostra come svolgere queste operazioni:

  • Installa il pacchetto di integrazione e LangChain
  • Caricare documenti da una tabella
  • Aggiungi un filtro al caricatore
  • Personalizza la connessione e l'autenticazione
  • Personalizza Creazione di documenti specificando contenuti e metadati dei clienti
  • Come utilizzare e personalizzare un PostgresDocumentSaver per archiviare ed eliminare documenti

Cronologia dei messaggi di chat per Cloud SQL per PostgreSQL

Le applicazioni di domande e risposte richiedono una cronologia delle cose dette nel conversazione per fornire il contesto dell'applicazione e rispondere ad altre domande da parte dell'utente. La classe LangChain ChatMessageHistory consente all'applicazione salvare i messaggi in un database e recuperarli quando necessario per formulare ulteriormente risposte. Un messaggio può essere una domanda, una risposta, un'affermazione, un saluto o qualsiasi altra porzione di testo fornita dall'utente o dall'applicazione durante la conversazione. ChatMessageHistory archivia ogni messaggio e concatena i messaggi per ciascuno conversazione.

Cloud SQL per PostgreSQL estende questa classe con PostgresChatMessageHistory.

Guida alla procedura per la cronologia dei messaggi di Chat

La guida di Cloud SQL per PostgreSQL per il messaggio della chat cronologia ti mostra come:

  • Installa LangChain ed esegui l'autenticazione su Google Cloud
  • Crea un oggetto PostgresEngine e configura un pool di connessioni al tuo Database Cloud SQL per PostgreSQL
  • Inizializzare una tabella
  • Inizializza la classe PostgresChatMessageHistory per aggiungere ed eliminare messaggi
  • Crea una catena per la cronologia dei messaggi utilizzando il linguaggio LangChain Expression Language (LCEL) e i modelli di chat Vertex AI di Google

Passaggi successivi