에이전트 하네스란 무엇인가요?

언어 모델은 자체적으로 웹을 탐색하거나, 데이터베이스를 쿼리하거나, 이메일을 보낼 수 없습니다. 이러한 모델은 텍스트 출력을 포착하고, 이를 명령어로 인식하고, 해당 명령어를 실행하고, 일반적으로 작업이 완료된 것으로 간주되는 시점을 결정하기 위해 외부 시스템이 필요합니다. 에이전트형 하네스는 몇 가지 주요 메커니즘을 통해 이러한 기능을 수행합니다.

하네스는 모델과 외부 애플리케이션 프로그래밍 인터페이스(API) 간의 변환을 처리합니다. AI 에이전트는 효과적으로 추론하는 데 필요한 동적 컨텍스트 모델이 부족하기 때문에 기존 API를 사용하는 데 어려움을 겪는 경우가 많습니다. 이 문제를 해결하기 위해 많은 최신 에이전트 하네스는 모델 컨텍스트 프로토콜(MCP)을 사용합니다. MCP는 AI 에이전트가 데이터 소스 및 외부 도구에 연결하는 방식을 표준화하여 전체 애플리케이션을 다시 작성하지 않고도 구성요소를 훨씬 쉽게 교체할 수 있도록 합니다.

모델은 복잡한 워크플로에서 두 단계 전에 일어난 일을 본질적으로 기억하지 못합니다. 하네스는 대화의 컨텍스트와 작업 상태를 유지합니다. 에이전트가 이미 사용한 도구, 해당 도구 호출의 결과, 사용자가 원래 요청한 내용을 추적하여 에이전트가 다음 단계를 성공적으로 계획할 수 있도록 합니다.

에이전트가 조치를 취하기로 결정하면 하네스가 보안 규칙을 적용합니다. 에이전트가 특정 API 호출을 실행할 수 있는 올바른 권한을 가지고 있는지 확인하여 모델이 승인되지 않은 작업을 수행하거나 제한된 데이터에 액세스하는 것을 방지합니다.

조정 프레임워크는 프롬프트와 데이터 소스를 연결하여 개발자가 언어 모델로 애플리케이션을 빌드하는 데 도움이 됩니다. 에이전트 하네스는 자율 에이전트를 위해 명시적으로 빌드된 특정 유형의 배포 환경입니다. 조정 프레임워크는 코드 작성이라는 개발자 경험에 중점을 두는 반면, 하네스는 런타임 환경에 중점을 둡니다. 에이전트가 지속적으로 실행되고, 자체 진행 상황을 모니터링하고, 외부 시스템과 안전하게 상호작용할 수 있도록 합니다.

에이전트 하네스를 빌드하려면 언어 모델을 입력, 출력, 도구 실행을 관리하는 스크립트로 래핑해야 합니다. 다음은 개발자가 이 환경을 설정하는 방법에 대한 이론적인 둘러보기입니다.

먼저 연속 추론 루프를 만듭니다. 이 루프는 사용자 프롬프트를 수락하고 언어 모델로 전송한 다음 응답을 기다립니다. 이 루프는 모델이 사용자의 요청에 완전히 대답했다고 나타낼 때까지 활성 상태로 유지됩니다.

에이전트가 필요로 할 수 있는 모든 도구에 대해 개별 API 요청을 하드코딩하는 대신 MCP 서버를 구현합니다. 데이터베이스 쿼리 함수 또는 날씨 API와 같은 도구를 프로토콜 내에 등록합니다. 모델에 정보가 필요하면 구조화된 요청을 생성합니다. 하네스는 이 요청을 가로채고 MCP 서버를 통해 전달하여 도구를 실행하고 데이터를 검색합니다.

도구의 출력을 포착하여 실행 중인 대화 기록에 추가하는 로직을 작성합니다. 이렇게 업데이트된 기록은 언어 모델에 다시 입력됩니다. 이 단계는 모델이 새 데이터를 분석하고 다른 도구를 호출해야 하는지 또는 사용자를 위한 최종 답변을 생성할 수 있는지 결정할 수 있도록 하므로 매우 중요합니다.

코드가 로컬에서 작동하면 마지막 단계는 에이전트형 하네스를 지속적으로 실행할 수 있는 프로덕션 환경으로 이동하는 것입니다.

경량 하네스를 배포하는 것은 개방형 모델을 프로토타입 제작하고 테스트하는 좋은 방법이지만, 프로덕션으로 전환하려면 지속적인 운영, 보안, 확장을 처리할 수 있는 인프라가 필요합니다. 빠른 프로토타입 제작을 위해 서버리스 컨테이너 환경은 최소한의 오버헤드로 에이전트를 빠르게 라이브로 전환할 수 있는 경로를 제공할 수 있습니다.

그러나 에이전트형 워크로드가 더 복잡해지거나 민감한 엔터프라이즈 데이터를 처리하게 되면 배포 요구사항이 강력한 조정 플랫폼으로 전환됩니다. 이러한 환경은 복잡한 에이전트를 효과적으로 관리하고 규정 준수, 데이터 거버넌스, 운영 안정성을 보장하는 데 필요한 고급 모니터링, 추적, 평가 도구를 제공합니다.