Desarrollar aplicaciones basadas en LLM con LangChain

En esta página se explica cómo crear aplicaciones basadas en LLMs con LangChain. Las descripciones generales de esta página enlazan con guías de procedimientos en GitHub.

¿Qué es LangChain?

LangChain es un framework de orquestación de LLMs que ayuda a los desarrolladores a crear aplicaciones de IA generativa o flujos de trabajo de generación aumentada por recuperación (RAG). Proporciona la estructura, las herramientas y los componentes necesarios para optimizar flujos de trabajo complejos de LLMs.

Para obtener más información sobre LangChain, consulta la página Google LangChain. Para obtener más información sobre el framework LangChain, consulta la documentación del producto LangChain.

Componentes de LangChain para Cloud SQL para SQL Server

Cloud SQL para SQL Server ofrece las siguientes interfaces de LangChain:

Consulta cómo usar LangChain con la guía de inicio rápido de LangChain para Cloud SQL para SQL Server.

Cargador de documentos para Cloud SQL para SQL Server

El cargador de documentos guarda, carga y elimina objetos de LangChain Document. Por ejemplo, puedes cargar datos para procesarlos en incrustaciones y almacenarlos en un almacén de vectores o usarlos como herramienta para proporcionar un contexto específico a las cadenas.

Para cargar documentos desde un cargador de documentos en Cloud SQL para SQL Server, usa la clase MSSQLLoader. Los métodos MSSQLLoader devuelven uno o varios documentos de una tabla. Usa la clase MSSQLDocumentSaver para guardar y eliminar documentos.

Para obtener más información, consulta el tema Cargadores de documentos de LangChain.

Guía de procedimientos del cargador de documentos

En la guía de Cloud SQL para SQL Server para Document Loader se explica cómo hacer lo siguiente:

  • Instalar el paquete de integración y LangChain
  • Cargar documentos de una tabla
  • Añadir un filtro al cargador
  • Personalizar la conexión y la autenticación
  • Personalizar la creación de documentos especificando el contenido y los metadatos del cliente
  • Cómo usar y personalizar un MSSQLDocumentSaver para almacenar y eliminar documentos

Historial de mensajes de chat de Cloud SQL para SQL Server

Las aplicaciones de preguntas y respuestas requieren un historial de lo que se ha dicho en la conversación para proporcionar contexto a la aplicación y responder a las preguntas posteriores del usuario. La clase ChatMessageHistory de LangChain permite que la aplicación guarde mensajes en una base de datos y los recupere cuando sea necesario para formular más respuestas. Un mensaje puede ser una pregunta, una respuesta, una afirmación, un saludo o cualquier otro texto que el usuario o la aplicación proporcione durante la conversación. ChatMessageHistory almacena cada mensaje y los encadena en cada conversación.

Cloud SQL para SQL Server amplía esta clase con MSSQLChatMessageHistory.

Guía de procedimiento del historial de mensajes de chat

En la guía de Cloud SQL para SQL Server sobre el historial de mensajes de chat se explica cómo hacer lo siguiente:

  • Instalar LangChain y autenticarse en Google Cloud
  • Crea un objeto MSSQLEngine y configura un pool de conexiones a tu base de datos de Cloud SQL para SQL Server.
  • Inicializar una tabla
  • Inicializa la clase MSSQLChatMessageHistory para añadir y eliminar mensajes.
  • Crea una cadena para el historial de mensajes con el lenguaje de expresiones de LangChain (LCEL) y los modelos de chat de Vertex AI de Google