本文档介绍了对生成式 AI 应用进行插桩处理的优势。本文档还总结了如何为使用 LangGraph 框架的应用进行插桩处理。
生成式 AI 代理简介
使用生成式 AI 的应用依赖于代理来完成任务或实现目标。代理是代表用户完成任务或实现目标的应用。例如，生成式 AI 代理可以浏览网站并发出 API 命令。这些 API 命令可能会检索信息或执行操作。
代理会自主执行操作，并使用推理来确定如何将目标或任务分解为子任务，然后确定使用哪些工具来完成这些子任务。在生成式 AI 的上下文中，工具决定了代理如何与其环境互动。例如，代理可能有一个使其可以发出 API 命令的工具。
如需详细了解代理，请参阅以下内容：
为何要对生成式 AI 应用进行插桩处理
对生成式 AI 应用进行插桩处理是了解自主代理所使用的推理的唯一方式。此推理过程并非确定性过程。
当您对生成式 AI 应用进行插桩处理时，遥测数据包含代理的决策和操作。您可以利用这些数据来验证或改进您的应用。
如何对生成式 AI 应用进行插桩处理
对应用进行插桩处理涉及生成遥测数据并将其发送到可存储、查询和分析数据的位置。例如，当您的插桩将遥测数据发送到您的 Google Cloud 项目时，您可以使用 Google Cloud Observability 来查看和分析这些数据。
LangGraph 框架示例说明了如何使用 OpenTelemetry 对使用 LangChain 或 LangGraph 框架的生成式 AI 应用进行插桩处理。
OpenTelemetry 是一个开源项目，用于为应用插桩提供统一框架。
代理框架可提供开发生成式 AI 应用所需的基础架构。代理框架定义了如何创建和注册工具、如何选择要运行的工具以及如何运行该工具。
Cloud Trace 配置为从生成式 AI 应用编写的 span 中提取事件，前提是这些 span 符合 OpenTelemetry 生成式 AI span 的语义惯例，并且包含遵循生成式 AI 事件的语义惯例的属性或事件。