Vertex AI Agent Builder로 생성형 AI 환경 빌드하기

*본 아티클의 원문은 2024년 4월 10일 Google Cloud 블로그(영문)에 게재되었습니다.

생성형 AI는 개발자와 조직이 활용할 수 있는 엄청난 기회입니다. 비즈니스 프로세스를 최적화하고, 고객과의 상호작용 방식을 개선하고, 새로운 수익원을 발견할 수 있게 합니다. 생성형 AI가 지닌 이 막대한 잠재력을 제대로 활용하려면 개발자와 IT 리더는 AI 모델, 앱, 에이전트의 빠른 실험 및 반복과 비용, 거버넌스, 성능 사이에서 규모에 따라 균형을 맞추는 등 다양한 문제를 해결해야 합니다.

Google Cloud는 고객이 이러한 문제를 잘 관리하고 생성형 AI 에이전트 개발에 박차를 가할 수 있도록 Vertex AI Agent Builder를 출시했습니다. Vertex AI Agent Builder에는 Vertex AI Search and Conversation 제품과 함께 향상된 개발자 도구 다수가 통합되어 있습니다.  

이미 이러한 제품을 사용 중인 Google Cloud 고객들로부터 흥미로운 사용 사례가 확인되고 있습니다.

고객 경험 측면에서는 ADT가 6백만 명이 넘는 고객을 위해 주택 보안 시스템을 선택하고 설정하는 데 도움이 되는 에이전트를 빌드하고 있으며, Intercontinental Hotels Group은 고객이 휴가를 간편하게 계획할 수 있도록 지원하는 생성형 AI 기반 여행 계획 기능을 출시할 예정입니다. 그리고 NewsCorp는 30,000곳의 글로벌 뉴스 소스와 매일 업데이트되는 25억 건의 뉴스 기사에서 데이터를 검색할 수 있는 환경을 만들기 위해 Vertex AI를 활용하고 있습니다.

한편 조직 내부의 효율성을 높이기 위해 에이전트를 빌드하고 있는 Google Cloud 고객도 있습니다. 예를 들어, Mayo Clinic의 연구원들은 50페타바이트가 넘는 규모의 임상 데이터를 검색하는 데 Vertex AI Agent Builder를 활용하고 있습니다. 또한 Vodafone은 Vertex AI를 사용하여 빠르고 안전하게 문서를 쿼리하고 10,000건이 넘는 계약 문건에서 특정 상업적 이용약관을 파악할 수 있는 도구를 개발했습니다. Google Cloud팀은 이러한 모멘텀이 형성된 것을 기쁘게 생각하며 앞으로 몇 달간 고객들이 계속해서 성취할 혁신을 기대하고 있습니다.  

그럼 Vertex AI Agent Builder의 기능을 자세히 살펴보겠습니다.

전문가에게는 빠르고 강력한 도구, 초보자에게는 간단하고 쉬운 도구

Vertex AI Agent Builder는 자연어를 사용하여 AI 에이전트를 빌드할 수 있는 노 코드(no-code) 콘솔부터 Vertex AI 기반 LangChain 같은 오픈소스 프레임워크에 이르기까지, 개발자의 니즈와 전문성 수준에 맞는 다양한 도구를 제공하여 엔터프라이즈 지원 생성형 AI 환경을 쉽게 빌드하고 배포할 수 있게 해 줍니다.

또한 Vertex AI Agent Builder는 엔터프라이즈 데이터를 바탕으로 생성형 AI 출력을 그라운딩하는 프로세스를 간소화해 줍니다. Vertex AI Search를 즉시 사용 가능한 그라운딩 시스템으로 사용할 수 있을 뿐 아니라 문서 레이아웃 처리, 순위 지정, 검색, 그라운딩 출력에 대한 검사 수행을 위한 RAG(검색 증강 생성) API도 활용할 수 있습니다. 뿐만 아니라 개발자가 벡터 검색을 사용하여 임베딩 기반 에이전트와 애플리케이션을 빌드할 수 있어 정확도와 모델 응답의 활용성(사용 가능성)이 높아집니다. 보안 및 엔터프라이즈 관리 기능이 기본 제공되는 Vertex AI Agent Builder는 프로덕션에 바로 사용할 수 있는 생성형 AI 기반 환경을 빠르게 만들고 배포할 수 있는 원스톱 솔루션입니다.

사실에 기반하여 그라운딩된 엔터프라이즈급 AI 에이전트를 빠르게 빌드  

생성형 AI 모델이 놀라운 수준의 콘텐츠 제작 및 분석 기능을 제공하는 것은 사실이지만, AI 앱 역시 이러한 기능을 안전하고 효율적인 인터페이스로 구현할 수 있어야 합니다. 더 나아가서, AI 에이전트가 고도의 맞춤형 응답을 제공하고 사용자 대신 작업을 실행할 수 있으려면 모델의 역량과 외부 시스템이 잘 결합되어야 합니다. Vertex AI Agent Builder는 이와 같은 프로세스를 간소화하는 데 도움이 됩니다.

자연어를 사용하여 프로덕션 등급의 AI 에이전트를 손쉽게 빌드
Vertex AI Agent Builder는 에이전트를 빌드할 수 있는 노 코드(no-code) 콘솔을 제공하므로 개발자가 Google의 최신 Gemini 모델을 사용해 생성형 AI 에이전트를 빌드하고 배포할 수 있습니다. Vertex AI의 '에이전트' 섹션으로 이동하여 에이전트 빌드를 시작하면 됩니다. 여기에서 단 몇 분 만에 새로운 에이전트를 만들 수 있습니다. 개발자는 에이전트로 달성하고자 하는 업무를 정의하고, 에이전트가 해당 업무를 달성하기 위해 따라야 하는 단계별 안내를 제공하고, 에이전트가 따를 몇 가지 예시를 대화식으로 공유하기만 하면 됩니다. 

복잡한 업무인 경우 개발자는 하나의 에이전트를 기본 에이전트로 설정하고 여러 개의 하위 에이전트를 두는 식으로 다수의 에이전트를 손쉽게 묶을 수 있습니다. 특정 하위 에이전트가 다른 하위 에이전트나 기본 에이전트로 정보를 전달하게 하여 원활하고 정교한 워크플로를 만들 수 있습니다. 이러한 에이전트는 함수를 호출하거나, 응답의 정확성을 개선하기 위해 엔터프라이즈 데이터에 연결하거나, 사용자의 작업을 수행하도록 애플리케이션에 연결하는 작업을 손쉽게 수행할 수 있습니다.  

Vertex AI 에이전트 콘솔은 에이전트 빌드, 조정, 유지보수 작업을 더욱 수월하게 만들어 주는 고급 도구도 함께 제공합니다. 여기에는 프로토타입에서 프로덕션 등급의 고품질 에이전트를 만들고, 에이전트의 성능을 실시간으로 모니터링하고, 자연어로 에이전트를 학습시켜 특정 쿼리에 대한 응답을 개선하는 등의 기능이 포함됩니다.

그라운딩된 출력과 뛰어난 에이전트
생성형 AI 모델은 이전에 학습했던 정보에 대해서만 응답을 해줍니다. 대부분의 엔터프라이즈 사용 사례에서 관련 있고 사실에 기반한 정보로 출력을 그라운딩하려면 모델이 학습한 지식을 다른 데이터 소스로 보완해야 합니다. 검색 증강 생성(RAG)이라고 잘 알려진 이 기법은 구현하기 까다로울 수 있으며, 시간 경과에 따라 그라운딩 메커니즘의 품질을 평가하고 유지하는 데 사용할 수 있는 전문 도구도 많지 않습니다. 

Vertex AI Agent Builder는 엔터프라이즈 데이터를 바탕으로 모델 출력을 그라운딩할 수 있는 포괄적인 기능을 제공합니다. 이러한 기능에는 Vertex AI Search의 즉시 사용 가능한 RAG 시스템 등이 포함되어 있습니다. 클릭 몇 번으로 설정 및 실행이 가능할 뿐 아니라, 플랫폼의 사전 빌드된 구성 요소를 활용하면 복잡한 구현 작업을 간단하게 생성, 유지, 관리할 수 있습니다. 문서 레이아웃, 순위 지정, 검색 등의 작업을 위한 다양한 RAG API가 마련되어 있어 개발자가 그라운딩 출력을 빠르고 쉽게 검사할 수 있습니다. 더 복잡한 구현의 경우에도 Vertex AI Agent Builder가 제공하는 강력한 벡터 검색을 활용하여 맞춤형 임베딩 기반 RAG 시스템을 빌드할 수 있습니다. 벡터 검색은 수십억 개의 벡터로 확장되며 수 밀리초 내에 최근접 이웃 정보를 찾을 수 있습니다. 또한 벡터 검색에 키워드 기반 검색 기법을 결합하면 사용자에게 가장 관련성 있고 정확한 응답을 제공할 수 있습니다.

고객은 Google 검색을 바탕으로 모델 출력을 그라운딩할 수도 있습니다. 이렇게 하면 Google의 최신 기반 모델을 활용하는 동시에 응답의 완전성과 정확성을 대폭 개선할 수 있는 고품질의 최신 정보에 액세스할 수 있게 됩니다. Google은 고객의 자체 데이터와 Google 검색 결과 모두를 바탕으로 즉시 그라운딩할 수 있는 기능을 제공하는 유일한 클라우드 제공업체입니다.

또한 Vertex AI Agent Builder를 사용하면 그라운딩 출력을 손쉽게 보강할 수 있으며 확장 프로그램과 함수 호출, 데이터 커넥터를 통해 사용자를 대신하여 조치를 취할 수도 있습니다.

• Vertex AI 확장 프로그램은 재사용이 가능한 사전 빌드 모듈로 기반 모델을 특정 API 또는 도구에 연결해 줍니다. 예를 들어, Google Cloud의 새로운 코드 인터프리터 확장 프로그램은 모델이 데이터 분석, 데이터 시각화, 수학적 연산 등 Python 코드 실행이 수반되는 작업을 실행할 수 있도록 해 줍니다. 

• Vertex AI 함수 호출은 사용자가 일련의 함수 또는 API를 설명할 수 있게 해 주며, Gemini 모델이 특정 쿼리에 대해 적절한 API 매개변수와 함께 호출할 알맞은 API 또는 함수를 지능적으로 선택하도록 해 줍니다.

• Vertex AI 데이터 커넥터는 생성형 애플리케이션을 널리 사용되는 엔터프라이즈 시스템에 연결하여 ServiceNow, Hadoop, Salesforce 같은 대기업 및 서드 파티 애플리케이션에서 데이터를 수집할 수 있게 해 줍니다.

엔터프라이즈급 보안과 안정성
작동하는 프로토타입에서 프로덕션에 바로 사용할 수 있는 앱 또는 에이전트로 나아가는 과정에서는 여러 기술적 문제가 생길 수 있습니다. Vertex AI Agent Builder는 HIPAA, ISO 27000 시리즈, SOC-1/2/3, VPC-SC, CMEK와 같은 다양한 규정 준수 및 보안 표준을 지원하여 이러한 우려를 덜어줍니다. 또한 Vertex AI Studio가 통합되어 있어 개발자가 모델 조정 기능을 활용하고 즉시 사용 가능한 Vertex AI의 다른 제품을 연결해 워크플로를 하나로 통일할 수도 있습니다. 모든 기능에는 Google Cloud 고객이 기대하는 표준 액세스 제어, 데이터 거버넌스 도구, 데이터 사용 및 관리 결정권 옵션이 함께 제공되므로 빌더는 혁신에 집중하면서도 데이터를 안전하게 유지하고 서비스를 안정적으로 운영할 수 있습니다.

지금 바로 AI 에이전트의 시대에 합류하세요

Vertex AI Agent Builder의 노 코드(no-code) 에이전트 빌드 콘솔을 사용해 자연어 프롬프트로 AI 에이전트를 빌드하거나 Vertex AI 기반 LangChain 같은 오픈소스 솔루션을 활용해 보세요.

Vertex AI Agent Builder에 대해 자세히 알아보려면 Google Cloud 웹페이지를 참고하세요.