Creare applicazioni basate su LLM utilizzando LangChain

Questa pagina introduce come creare applicazioni basate su LLM utilizzando LangChain. Le panoramiche di questa pagina rimandano alle guide alle procedure in GitHub.

Che cos'è LangChain?

LangChain è un framework di orchestrazione LLM che aiuta gli sviluppatori a creare applicazioni di AI generativa o flussi di lavoro di Retrieval-Augmented Generation (RAG). Fornisce la struttura, gli strumenti e i componenti per semplificare i flussi di lavoro <x0A>LLM complessi.

Per saperne di più su LangChain, consulta la pagina Google LangChain. Per ulteriori informazioni sul framework LangChain, consulta la documentazione del prodotto LangChain.

Componenti LangChain per Cloud SQL per SQL Server

Cloud SQL per SQL Server offre le seguenti interfacce LangChain:

Scopri come utilizzare LangChain con la guida rapida di LangChain per Cloud SQL per SQL Server.

Document Loader per Cloud SQL per SQL Server

Il caricatore di documenti salva, carica ed elimina gli oggetti Document di LangChain. Ad esempio, puoi caricare i dati per l'elaborazione negli incorporamenti e archiviarli nell'archivio vettoriale o utilizzarli come strumento per fornire un contesto specifico alle catene.

Per caricare documenti dal caricatore di documenti in Cloud SQL per SQL Server, utilizza la classe MSSQLLoader. I metodi MSSQLLoader restituiscono uno o più documenti da una tabella. Utilizza la classe MSSQLDocumentSaver per salvare ed eliminare i documenti.

Per saperne di più, consulta l'argomento Caricatori di documenti LangChain.

Guida alla procedura di caricamento dei documenti

La guida di Cloud SQL per SQL Server per il caricatore di documenti mostra come:

  • Installa il pacchetto di integrazione e LangChain
  • Caricare documenti da una tabella
  • Aggiungere un filtro al caricatore
  • Personalizza la connessione e l'autenticazione
  • Personalizzare la creazione del documento specificando i contenuti e i metadati del cliente
  • Come utilizzare e personalizzare un MSSQLDocumentSaver per archiviare ed eliminare documenti

Cronologia dei messaggi di chat per Cloud SQL per SQL Server

Le applicazioni di domande e risposte richiedono una cronologia di ciò che è stato detto nella conversazione per fornire all'applicazione il contesto per rispondere a ulteriori domande dell'utente. La classe ChatMessageHistory di LangChain consente all'applicazione di salvare i messaggi in un database e recuperarli quando necessario per formulare ulteriori risposte. Un messaggio può essere una domanda, una risposta, un'affermazione, un saluto o qualsiasi altro testo che l'utente o l'applicazione forniscono durante la conversazione. ChatMessageHistory memorizza ogni messaggio e li concatena per ogni conversazione.

Cloud SQL per SQL Server estende questa classe con MSSQLChatMessageHistory.

Guida alla procedura per la cronologia dei messaggi di chat

La guida di Cloud SQL per SQL Server per la cronologia dei messaggi di chat mostra come:

  • Installa LangChain e autenticati su Google Cloud
  • Crea un oggetto MSSQLEngine e configura un pool di connessioni al tuo database Cloud SQL per SQL Server
  • Inizializzare una tabella
  • Inizializza la classe MSSQLChatMessageHistory per aggiungere ed eliminare messaggi
  • Crea una catena per la cronologia dei messaggi utilizzando LangChain Expression Language (LCEL) e i modelli di chat Vertex AI di Google