Compila aplicaciones con tecnología de LLM a través de LangChain

En esta página, se presenta cómo compilar aplicaciones con tecnología de LLM a través de LangChain. Las descripciones generales de esta página se vinculan a guías de procedimiento en GitHub.

¿Qué es LangChain?

LangChain es un framework de organización de LLM que ayuda a los desarrolladores a compilar aplicaciones de IA generativa o flujos de trabajo de generación de aumento de recuperación (RAG). Proporciona la estructura, las herramientas y los componentes para optimizar los flujos de trabajo complejos de LLM.

Para obtener más información sobre LangChain, consulta la página Google LangChain. Para obtener más información sobre el framework de LangChain, consulta la documentación del producto LangChain.

Componentes de LangChain de Cloud SQL para SQL Server

Cloud SQL para SQL Server ofrece las siguientes interfaces de LangChain:

Aprende a usar LangChain con la guía de inicio rápido de LangChain de Cloud SQL para SQL Server.

Cargador de documentos de Cloud SQL para SQL Server

El cargador de documentos guarda, carga y borra un objeto Document de LangChain. Por ejemplo, puedes cargar datos para procesarlos en incorporaciones y almacenarlos en un almacén de vectores o usarlos como una herramienta para proporcionar contexto específico a las cadenas.

Si deseas cargar documentos desde el cargador de documentos en Cloud SQL para SQL Server, usa la clase MSSQLLoader. Los métodos MSSQLLoader muestran uno o más documentos de una tabla. Usa la clase MSSQLDocumentSaver para guardar y borrar documentos.

Para obtener más información, consulta el tema Cargadores de documentos de LangChain.

Guía de procedimiento del cargador de documentos

En la guía de Cloud SQL para SQL Server para el cargador de documentos, se muestra cómo hacer lo siguiente:

  • Instalar el paquete de integración y LangChain
  • Cargar documentos desde una tabla
  • Agregar un filtro al cargador
  • Personalizar la conexión y la autenticación
  • Personaliza la creación de documentos especificando el contenido y los metadatos del cliente
  • Cómo usar y personalizar un MSSQLDocumentSaver para almacenar y borrar documentos

Historial de mensajes de chat de Cloud SQL para SQL Server

Las aplicaciones de preguntas y respuestas requieren un historial de lo que se dijo en la conversación para darle contexto a la aplicación para responder más preguntas del usuario. La clase ChatMessageHistory de LangChain permite que la aplicación guarde mensajes en una base de datos y los recupere cuando sea necesario para formular más respuestas. Un mensaje puede ser una pregunta, una respuesta, una declaración, un saludo o cualquier otro texto que el usuario o la aplicación proporcione durante la conversación. ChatMessageHistory almacena cada mensaje y los encadena para cada conversación.

Cloud SQL para SQL Server extiende esta clase con MSSQLChatMessageHistory.

Guía de procedimiento del historial de mensajes de chat

En la guía de Cloud SQL para SQL Server sobre el historial de mensajes de chat, se muestra cómo hacer lo siguiente:

  • Instalar LangChain y autenticar Google Cloud
  • Crea un objeto MSSQLEngine y configura un grupo de conexiones a la base de datos de Cloud SQL para SQL Server
  • Inicializar una tabla
  • Inicializar la clase MSSQLChatMessageHistory para agregar y borrar mensajes
  • Crear una cadena para el historial de mensajes con LangChain Expression Language (LCEL) y los modelos de chat de Vertex AI de Google.