Example Store te permite almacenar y recuperar de forma dinámica ejemplos con pocos disparos. Los ejemplos de pocos disparos te permiten demostrar los patrones de respuesta esperados a un LLM para mejorar la calidad, la precisión y la coherencia de sus respuestas a consultas similares.
¿Qué son los ejemplos de pocos disparos?
Un ejemplo de few-shot son datos etiquetados específicos de tu caso práctico de LLM. Incluye un par de entrada-salida que muestra la respuesta esperada del modelo a una solicitud. Puedes usar ejemplos para demostrar el comportamiento o el patrón de respuesta esperados de un LLM.
Si solo usas unos pocos ejemplos relevantes, puedes abarcar un conjunto más amplio de resultados posibles, comportamientos previstos y entradas de usuario sin aumentar de forma proporcional el tamaño o la complejidad de las peticiones. Para ello, solo se incluyen ejemplos relevantes (se reduce el número de ejemplos) y se muestra el comportamiento esperado en lugar de explicarlo.
Usar ejemplos de pocos disparos es una forma de aprendizaje en contexto. En un ejemplo se muestra un patrón claro de entradas y salidas, sin explicar cómo genera el contenido el modelo. Puedes cubrir más resultados posibles o consultas de usuarios con relativamente pocos ejemplos, sin aumentar el tamaño de la petición ni la complejidad del código. Usar ejemplos no implica actualizar los parámetros del modelo preentrenado y no afecta a la amplitud de los conocimientos del LLM. Esto hace que el aprendizaje en contexto con ejemplos sea un enfoque relativamente ligero y conciso para personalizar, corregir o mejorar el razonamiento y la respuesta de un LLM a peticiones desconocidas.
Al recoger ejemplos relevantes que sean representativos de las consultas de los usuarios, ayudas al modelo a mantener la atención, a mostrar el patrón esperado y a corregir comportamientos incorrectos o inesperados. Esto no afecta a otras solicitudes que dan como resultado las respuestas esperadas.
Al igual que todas las estrategias de ingeniería de peticiones, el uso de ejemplos de pocos disparos se suma a otras técnicas de optimización de LLMs, como el ajuste fino o la RAG.
Cómo usar Example Store
En los siguientes pasos se describe cómo puedes usar Example Store:
Crea o reutiliza un recurso
ExampleStore, también llamado "instancia de Example Store".- En cada región y proyecto, puedes tener un máximo de 50 instancias de Example Store.
Escribe y sube ejemplos basados en las respuestas del LLM. Hay dos posibles situaciones:
Si el comportamiento y el patrón de respuesta del LLM son los esperados, escribe ejemplos basados en estas respuestas y súbelos a la instancia de Example Store.
Si el LLM muestra un comportamiento o patrones de respuesta inesperados, escribe un ejemplo para demostrar cómo corregir la respuesta y, a continuación, súbelo a la instancia de Example Store.
Los ejemplos subidos estarán disponibles inmediatamente para el agente o la aplicación LLM asociados a la instancia de Example Store.
Si un agente basado en Vertex AI Agent Development Kit está vinculado a la instancia de Example Store, el agente recupera automáticamente los ejemplos y los incluye en la solicitud de LLM.
Para todas las demás aplicaciones de LLMs, debes buscar y recuperar los ejemplos y, a continuación, incluirlos en tus peticiones.
Puedes seguir añadiendo ejemplos de forma iterativa a una instancia de Example Store siempre que observes un rendimiento inesperado del LLM o te encuentres con consultas de usuarios adversarias o inesperadas. No es necesario que actualice el código ni que vuelva a implementar una nueva versión de su aplicación LLM. Los ejemplos estarán disponibles para el agente o la aplicación en cuanto los subas a la instancia de Example Store.
Además, puedes hacer lo siguiente:
Para obtener ejemplos, realiza una búsqueda de similitud de coseno entre las claves de búsqueda de los ejemplos almacenados y las de tu consulta.
Filtra los ejemplos por nombre de función y acota la lista de ejemplos candidatos a los que representan las posibles respuestas del LLM.
Mejora de forma iterativa tu agente o aplicación LLM.
Compartir ejemplos con varios agentes o aplicaciones de LLM.
Directrices para crear ejemplos de pocos disparos
El impacto de los ejemplos en el rendimiento del modelo depende de los tipos de ejemplos que se incluyan en las peticiones y de cómo se incluyan.
A continuación, se indican las prácticas recomendadas para crear ejemplos:
Relevancia y similitud: los ejemplos deben estar estrechamente relacionados con la tarea o el dominio específicos. De esta forma, el modelo se centra en los aspectos más relevantes de sus conocimientos, reduce el uso de tokens y mantiene o incluso mejora el rendimiento. Necesitas menos ejemplos si son relevantes para la conversación. El corpus de los ejemplos disponibles debe ser representativo de las posibles consultas de los usuarios. Además, el ejemplo debe ser relevante para una consulta de usuario determinada.
Complejidad: para ayudar al LLM a mejorar su rendimiento, usa ejemplos de baja complejidad para demostrar el razonamiento esperado.
Representación de los posibles resultados del modelo: las respuestas esperadas en un ejemplo deben ser coherentes con el posible resultado. De esta forma, el ejemplo muestra claramente un razonamiento coherente con el razonamiento esperado del LLM para la petición.
Formato: para obtener el mejor rendimiento, formatea los ejemplos de pocos disparos en tu petición de forma coherente con los datos de entrenamiento del LLM y diferenciada del historial de conversaciones. El formato de los ejemplos de una petición puede influir considerablemente en el rendimiento del LLM.
Caso práctico de ejemplo: llamadas a funciones
Puedes usar ejemplos de pocos disparos para mejorar el rendimiento de las llamadas a funciones.
Puede indicar la llamada a función esperada para una consulta de usuario siguiendo un patrón coherente. En el ejemplo se puede modelar la respuesta esperada a la solicitud incluyendo qué función se debe invocar y los argumentos que se deben incluir en la llamada a la función. Supongamos que la función get_store_location devuelve la ubicación de una tienda y su descripción. Si una consulta no invoca esta función como se espera o muestra un resultado inesperado, puedes usar ejemplos de pocas respuestas para corregir este comportamiento en consultas posteriores.
Para obtener más información sobre la función de llamada, consulta Llamada a funciones.
Para obtener más información, consulta la guía de inicio rápido de Example Store.
Siguientes pasos
Consulta cómo crear una tienda de ejemplo.
Consulta cómo enseñar a un agente con ejemplos.