¿Qué es la generación aumentada de recuperación (RAG)?

Las RAG siguen una serie de pasos principales para mejorar los resultados de la IA generativa: 

• Recuperación y preprocesamiento: las RAG utilizan potentes algoritmos de búsqueda para hacer consultas a datos externos, como páginas web, bases de conocimientos y bases de datos. Una vez obtenida, la información pertinente se somete a un procesamiento previo, lo que incluye la tokenización, la raíz y la eliminación de las palabras irrelevantes.
• Generación fundamentada: la información obtenida previamente se incorpora sin problemas al LLM entrenado previamente. Esta integración mejora el contexto del LLM, lo que proporciona una comprensión más completa del tema. Este contexto mejorado permite a los LLMs generar respuestas más precisas, informativas y atractivas. 

RAG ofrece varias ventajas sobre los métodos tradicionales de generación aumentada, especialmente cuando se trata de información factual o respuestas basadas en datos. A continuación se presentan algunas razones clave por las que el uso de RAG puede resultar beneficioso:

Los LLMs se limitan a sus datos previamente entrenados. Esto da lugar a respuestas obsoletas y potencialmente inexactas. RAG supera este problema proporcionando información actualizada a los LLMs.

Los LLM son herramientas poderosas para generar textos creativos y atractivos, pero a veces pueden tener dificultades con la precisión de los hechos. Esto se debe a que los LLM se entrenan con cantidades masivas de datos de texto, que pueden contener imprecisiones o sesgos.

Proporcionar "datos" al LLM como parte de la petición de entrada puede mitigar las "alucinaciones de la IA generativa". La clave de este enfoque es asegurar que se proporcionan los datos más relevantes al LLM y que la salida del LLM se basa completamente en esos datos, a la vez que responde a la pregunta del usuario y cumple las instrucciones del sistema y las restricciones de seguridad.

Usar la ventana de contexto largo (LCW) de Gemini es una forma excelente de proporcionar materiales de origen al LLM. Si necesitas proporcionar más información de la que cabe en la LCW o si necesitas aumentar el rendimiento, puedes usar un enfoque de RAG que reducirá el número de tokens, lo que te ahorrará tiempo y dinero.

Las RAGs suelen obtener datos mediante búsquedas, y los buscadores modernos ahora utilizan bases de datos de vectores para recuperar documentos relevantes de forma eficiente. Las bases de datos vectoriales almacenan documentos como incrustaciones en un espacio de gran tamaño, lo que permite obtener datos de forma rápida y precisa basándose en la similitud semántica. Las incrustaciones multimodales se pueden usar en imágenes, audio, vídeo y más, y se pueden recuperar junto con incrustaciones de texto o multilingües.

Los buscadores avanzados, como Vertex AI Search, usan la búsqueda semántica y la búsqueda por palabras clave a la vez (búsqueda híbrida), y un reclasificador que asigna una puntuación a los resultados de búsqueda para que los primeros resultados devueltos sean los más relevantes. Además, los resultados de las búsquedas son mejores si la consulta es clara y específica, y no contiene errores ortográficos. Por eso, antes de hacer la búsqueda, los buscadores sofisticados transforman la consulta y corrigen los errores ortográficos.

El mecanismo de recuperación en la RAG es de vital importancia. Necesitas la mejor búsqueda semántica junto con una base de conocimientos seleccionada para asegurarte de que la información obtenida sea pertinente para la consulta de entrada o el contexto. Si la información que has obtenido es irrelevante, es posible que la respuesta que hayas generado sea correcta pero no tenga nada que ver con la pregunta o sea incorrecta.

Al ajustar o hacer ingeniería de peticiones en el LLM para que genere texto basándose únicamente en los conocimientos obtenidos, RAG ayuda a minimizar las contradicciones y las incoherencias en el texto generado. Esto mejora significativamente la calidad del texto generado y la experiencia de usuario.

El servicio Vertex Eval ahora puntúa el texto generado por LLM y los fragmentos recuperados en métricas como "coherencia", "fluidez", "fundamentación", "seguridad", "cumplimiento_de_instrucciones", "calidad_de_respuesta_a_preguntas", etc. Estas métricas te ayudan a medir el texto fundamentado que obtienes del LLM (en el caso de algunas métricas, se trata de una comparación con una respuesta validada en el terreno que has proporcionado). Al implementar estas evaluaciones, obtienes una medida de referencia y puedes optimizar la calidad de las respuestas automáticas configurando tu buscador, seleccionando tus datos de origen, mejorando las estrategias de análisis o segmentación del diseño de la fuente o perfilando la pregunta del usuario antes de que haga la búsqueda. Un enfoque de operaciones de RAG basado en métricas como este te ayudará a conseguir un RAG y una generación fundamentada de alta calidad.

La RAG y la fundamentación se pueden integrar en cualquier aplicación o agente de LLM que necesite acceder a datos nuevos, privados o especializados. Al acceder a información externa, los bots de chat y los agentes conversacionales basados en RAG aprovechan el conocimiento externo para ofrecer respuestas más completas, informativas y contextuales, lo que mejora la experiencia general de los usuarios.

Tus datos y tu caso práctico son los que diferencian lo que estás creando con la IA generativa. RAG y la fundamentación te permiten llevar tus datos a los LLMs de forma eficiente y escalable.