Instrumentar aplicaciones de IA generativa

En este documento se describe la ventaja de instrumentar tus aplicaciones de IA generativa. También se resume cómo puedes instrumentar una aplicación que usa el framework LangGraph.

Información sobre los agentes de IA generativa

Las aplicaciones que usan IA generativa dependen de los agentes para completar tareas o alcanzar objetivos. Los agentes son aplicaciones que completan tareas o persiguen objetivos en nombre de un usuario. Por ejemplo, un agente de IA generativa puede navegar por un sitio web y enviar comandos de API. Estos comandos de API pueden obtener información o realizar una acción.

Los agentes actúan de forma autónoma y usan el razonamiento para determinar cómo desglosar un objetivo o una tarea en subtareas y, a continuación, qué herramientas usar para llevar a cabo esas subtareas. En el contexto de la IA generativa, las herramientas determinan cómo puede interactuar el agente con su entorno. Por ejemplo, un agente puede tener una herramienta que le permita enviar comandos de API.

Para obtener más información sobre los agentes, consulta lo siguiente:

Por qué instrumentar tus aplicaciones de IA generativa

Instrumentar tus aplicaciones de IA generativa es la única forma de entender el razonamiento que usan los agentes autónomos. Este proceso de razonamiento no es determinista.

Cuando instrumentas una aplicación de IA generativa, los datos de telemetría incluyen las decisiones y las acciones de los agentes. Puede usar estos datos para validar o mejorar su aplicación.

Cómo instrumentar tus aplicaciones de IA generativa

Instrumentar una aplicación implica generar telemetría y enviarla a un lugar donde se puedan almacenar, consultar y analizar los datos. Por ejemplo, cuando tu instrumentación envía telemetría a tu Google Cloud proyecto Google Cloud , puedes usar Google Cloud Observability para ver y analizar esos datos.

El ejemplo del framework LangGraph muestra cómo usar OpenTelemetry para instrumentar una aplicación de IA generativa que usa el framework LangChain o LangGraph.

  • OpenTelemetry es un proyecto de código abierto que proporciona un framework unificado para la instrumentación de aplicaciones.

  • Un framework de agentes proporciona la infraestructura necesaria para desarrollar una aplicación de IA generativa. Los frameworks de agentes definen cómo crear y registrar herramientas, cómo seleccionar una herramienta para ejecutarla y cómo ejecutarla.

Cloud Trace está configurado para extraer eventos de los intervalos escritos por aplicaciones de IA generativa, siempre que los intervalos cumplan las convenciones semánticas de OpenTelemetry para los intervalos de IA generativa e incluyan atributos o eventos que sigan las convenciones semánticas para los eventos de IA generativa.