이 문서에서는 생성형 AI 애플리케이션을 계측할 때의 이점을 설명합니다. 또한 LangGraph 프레임워크를 사용하는 애플리케이션을 계측하는 방법을 간략히 설명합니다.
생성형 AI 에이전트 정보
생성형 AI를 사용하는 애플리케이션은 태스크를 완료하거나 목표를 달성하기 위해 에이전트에 의존합니다. 에이전트는 사용자를 대신하여 태스크를 완료하거나 목표를 추구하는 애플리케이션입니다. 예를 들어 생성형 AI 에이전트는 웹사이트를 탐색하고 API 명령어를 실행할 수 있습니다. 이러한 API 명령어는 정보를 가져오거나 작업을 실행할 수 있습니다.
에이전트는 자율적으로 행동하며 추론을 사용하여 목표나 태스크를 하위 태스크로 세분화하는 방법을 결정한 다음 이러한 하위 태스크를 완료하는 데 사용할 도구를 결정합니다. 생성형 AI의 맥락에서 도구는 에이전트가 환경과 상호작용하는 방식을 결정합니다. 예를 들어 에이전트에 API 명령어를 실행할 수 있는 도구가 있을 수 있습니다.
에이전트에 대해 자세히 알아보려면 다음을 참조하세요.
생성형 AI 애플리케이션을 계측해야 하는 이유
생성형 AI 애플리케이션을 계측하는 것이 자율 에이전트가 사용하는 추론을 이해할 수 있는 유일한 방법입니다. 이 추론 과정은 확정적이지 않습니다.
생성형 AI 애플리케이션을 계측하면 원격 분석 데이터에 에이전트의 결정과 작업이 포함됩니다. 이 데이터를 사용하여 애플리케이션을 검증하거나 개선할 수 있습니다.
생성형 AI 애플리케이션을 계측하는 방법
애플리케이션을 계측하려면 원격 분석을 생성하고 데이터를 저장, 쿼리 및 분석할 수 있는 위치로 전송합니다. 예를 들어 계측에서 Google Cloud 프로젝트로 원격 분석을 전송하는 경우 Google Cloud Observability를 사용하여 해당 데이터를 보고 분석할 수 있습니다.
LangGraph 프레임워크 예시에서는 OpenTelemetry를 사용하여 LangChain 또는 LangGraph 프레임워크를 사용하는 생성형 AI 애플리케이션을 계측하는 방법을 보여줍니다.
OpenTelemetry는 애플리케이션 계측을 위한 통합 프레임워크를 제공하는 오픈소스 프로젝트입니다.
에이전트 프레임워크는 생성형 AI 애플리케이션을 개발하는 데 필요한 인프라를 제공합니다. 에이전트 프레임워크는 도구를 만들고 등록하는 방법, 실행할 도구를 선택하는 방법, 도구를 실행하는 방법을 정의합니다.
스팬이 OpenTelemetry 생성형 AI 스팬의 시맨틱 규칙을 준수하고 생성형 AI 이벤트의 시맨틱 규칙을 따르는 속성 또는 이벤트를 포함하는 경우 Cloud Trace는 생성형 AI 애플리케이션에서 작성한 스팬에서 이벤트를 추출하도록 구성됩니다.