Este documento descreve a vantagem de instrumentar as suas aplicações de IA generativa. Também resume como pode instrumentar uma aplicação que usa a framework LangGraph.
Acerca dos agentes de IA generativa
As aplicações que usam IA generativa dependem de agentes para concluir tarefas ou alcançar objetivos. Os agentes são aplicações que concluem tarefas ou alcançam objetivos em nome de um utilizador. Por exemplo, um agente de IA generativa pode navegar num Website e emitir comandos de API. Estes comandos da API podem obter informações ou realizar uma ação.
Os agentes atuam de forma autónoma e usam o raciocínio para determinar como decompor um objetivo ou uma tarefa em subtarefas e, em seguida, determinar que ferramentas usar para realizar essas subtarefas. No contexto da IA generativa, as ferramentas determinam como o agente pode interagir com o respetivo ambiente. Por exemplo, um agente pode ter uma ferramenta que lhe permita emitir comandos da API.
Para saber mais sobre os agentes, consulte o seguinte:
- Observabilidade dos agentes de IA: evolução das normas e práticas recomendadas
- O que é um agente de IA?
Por que motivo deve instrumentar as suas aplicações de IA generativa
A instrumentação das suas aplicações de IA generativa é a única forma de compreender o raciocínio usado pelos agentes autónomos. Este processo de raciocínio não é determinístico.
Quando instrumenta uma aplicação de IA generativa, os dados de telemetria incluem as decisões e as ações dos agentes. Pode usar estes dados para validar ou melhorar a sua aplicação.
Como instrumentar as suas aplicações de IA generativa
A instrumentação da sua aplicação envolve a geração de telemetria e o envio da mesma para onde os dados podem ser armazenados, consultados e analisados. Por exemplo, quando a sua instrumentação envia telemetria para o seu Google Cloud projeto, pode usar o Google Cloud Observability para ver e analisar esses dados.
O exemplo do framework LangGraph ilustra como usar o OpenTelemetry para instrumentar uma aplicação de IA generativa que usa o framework LangChain ou LangGraph.
O OpenTelemetry é um projeto de código aberto que fornece uma framework unificada para a instrumentação de aplicações.
Uma framework de agentes fornece a infraestrutura necessária para desenvolver uma aplicação de IA generativa. As estruturas de agentes definem como criar e registar ferramentas, como selecionar uma ferramenta para executar e como executar a ferramenta.
O Cloud Trace está configurado para extrair eventos de intervalos escritos por aplicações de IA generativa, desde que os intervalos estejam em conformidade com as convenções semânticas do OpenTelemetry para intervalos de IA generativa e incluam atributos ou eventos que sigam as convenções semânticas para eventos de IA generativa.