Instrumenta aplicaciones de IA generativa

En este documento, se describe el beneficio de instrumentar tus aplicaciones de IA generativa. También se resume cómo puedes instrumentar una aplicación que use el framework de LangGraph.

Acerca de los agentes de IA generativa

Las aplicaciones que usan IA generativa dependen de agentes para completar tareas o lograr objetivos. Los agentes son aplicaciones que completan tareas o persiguen objetivos en nombre de un usuario. Por ejemplo, un agente de IA generativa puede navegar por un sitio web y emitir comandos de API. Estos comandos de la API pueden recuperar información o realizar una acción.

Los agentes actúan de forma autónoma y usan el razonamiento para determinar cómo descomponer un objetivo o una tarea en subtareas y, luego, determinar qué herramientas usar para llevarlas a cabo. En el contexto de la IA generativa, las herramientas determinan cómo el agente puede interactuar con su entorno. Por ejemplo, un agente podría tener una herramienta que le permita emitir comandos de API.

Para obtener más información sobre los agentes, consulta lo siguiente:

Por qué instrumentar tus aplicaciones de IA generativa

Instrumentar tus aplicaciones de IA generativa es la única manera de comprender el razonamiento que usan los agentes autónomos. Este proceso de razonamiento no es determinístico.

Cuando instrumentas una aplicación de IA generativa, los datos de telemetría incluyen las decisiones y acciones de los agentes. Puedes usar estos datos para validar o mejorar tu aplicación.

Cómo instrumentar tus aplicaciones de IA generativa

Instrumentar tu aplicación implica generar telemetría y enviarla a un lugar en el que se puedan almacenar, consultar y analizar los datos. Por ejemplo, cuando tu instrumentación envía telemetría a tu proyecto de Google Cloud , puedes usar la observabilidad de Google Cloud para ver y analizar esos datos.

En el ejemplo del framework de LangGraph, se muestra cómo usar OpenTelemetry para instrumentar una aplicación de IA generativa que usa el framework de LangChain o LangGraph.

  • OpenTelemetry es un proyecto de código abierto que proporciona un framework unificado para la instrumentación de aplicaciones.

  • Un framework de agentes proporciona la infraestructura necesaria para desarrollar una aplicación de IA generativa. Los frameworks de agentes definen cómo crear y registrar herramientas, cómo seleccionar una herramienta para ejecutarla y cómo ejecutarla.

Cloud Trace está configurado para extraer eventos de los intervalos que escriben las aplicaciones de IA generativa, siempre que los intervalos cumplan con las convenciones semánticas de OpenTelemetry para los intervalos de IA generativa y, además, incluyan atributos o eventos que sigan las convenciones semánticas para los eventos de IA generativa.