Créer des applications basées sur un LLM avec LangChain

Cette page explique comment créer des applications basées sur un LLM en utilisant LangChain. Les présentations de cette page sont liées aux guides de procédure dans GitHub.

Qu'est-ce que LangChain ?

LangChain est un framework d'orchestration LLM qui aide les développeurs à créer des applications d'IA générative ou des workflows de génération augmentée de récupération (RAG). Il fournit la structure, les outils et les composants nécessaires pour simplifier les workflows LLM complexes.

Pour plus d'informations sur LangChain, consultez la page Google LangChain. Pour en savoir plus sur le framework LangChain, consultez la documentation du produit de LangChain.

Composants LangChain pour Cloud SQL pour SQL Server

Cloud SQL pour SQL Server propose les interfaces LangageChain suivantes :

Apprenez à utiliser LangChain grâce au guide de démarrage rapide de LangChain pour Cloud SQL pour SQL Server.

Chargeur de documents pour Cloud SQL pour SQL Server

Le chargeur de documents enregistre, charge et supprime un objet Document LangChain. Par exemple, vous pouvez charger des données à traiter dans des représentations vectorielles continues et les stocker dans un stockage de vecteurs ou les utiliser comme outil pour fournir un contexte spécifique aux chaînes.

Pour charger des documents à partir du chargeur de documents dans Cloud SQL pour SQL Server, utilisez la classe MSSQLLoader. Les méthodes MSSQLLoader renvoient un ou plusieurs documents d'une table. Utilisez la classe MSSQLDocumentSaver pour enregistrer et supprimer des documents.

Pour en savoir plus, consultez la page Chargeurs de documents LangChain.

Guide de procédure du chargeur de documents

Le guide Cloud SQL pour SQL Server pour le chargeur de documents vous explique comment effectuer les opérations suivantes :

  • Installer le package d'intégration et LangChain
  • charger des documents depuis une table ;
  • ajouter un filtre au chargeur ;
  • personnaliser la connexion et l'authentification ;
  • Personnaliser la construction d'un document en spécifiant les métadonnées et les contenus client
  • Utiliser et personnaliser un MSSQLDocumentSaver pour stocker et supprimer des documents

Historique des messages de chat pour Cloud SQL pour SQL Server

Les applications de questions-réponses nécessitent un historique de ce qui s'est dit dans la conversation afin de fournir à l'application un contexte qui lui permet de répondre à d'autres questions de l'utilisateur. La classe ChatMessageHistory de LangChain permet à l'application d'enregistrer des messages dans une base de données et de les récupérer si nécessaire pour formuler d'autres réponses. Un message peut être une question, une réponse, une instruction, un message d'accueil ou tout autre texte émis par l'utilisateur ou l'application au cours d'une conversation. ChatMessageHistory stocke chaque message et enchaîne les messages pour chaque conversation.

Cloud SQL pour SQL Server étend cette classe avec MSSQLChatMessageHistory.

Guide de procédure pour l'historique des messages de chat

Le guide Cloud SQL pour SQL Server concernant l'historique des messages de chat vous explique comment effectuer les opérations suivantes :

  • installer LangChain et s'authentifier auprès de Google Cloud ;
  • créer un objet MSSQLEngine et configurer un pool de connexions à votre base de données Cloud SQL pour SQL Server ;
  • Initialiser une table
  • initialiser la classe MSSQLChatMessageHistory pour ajouter et supprimer des messages ;
  • créer une chaîne pour l'historique des messages à l'aide du langage LCEL (LangChain Expression Language) et des modèles de chat Vertex AI de Google.