멀티 에이전트 시스템을 빌드 및 관리하는 새로운 방법을 제공하는 Vertex AI

* 본 아티클의 원문은 2025년 4월 10일 Google Cloud 블로그(영문)에 게재되었습니다. 

머지않아 모든 기업이 멀티 에이전트 시스템(빌드 기반 프레임워크나 제공업체와 상관없이 여러 AI 에이전트가 함께 작동하는 시스템)을 사용하게 될 것입니다. 에이전트는 추론, 계획, 기억 기능을 사용하여 사용자를 대신해 작업을 수행할 수 있는 지능형 시스템입니다. 사용자의 감독하에 여러 단계를 앞서 생각하고 다양한 시스템에서 작업을 수행할 수 있습니다.

멀티 에이전트 시스템은 Gemini 2.5에서 지원되는 모델과 같이 향상된 추론 기능을 갖춘 모델을 사용합니다. 또한 워크플로와의 통합 및 기업 데이터와의 연결에 따라 결정됩니다. Vertex AI는 프로덕션 AI의 세 가지 핵심 요소인 모델, 데이터, 에이전트를 조정하는 Google Cloud의 포괄적인 플랫폼으로, 이러한 요소를 원활하게 통합합니다. 단편화되고 취약한 솔루션의 조합으로 대신했을 방식을 개방형 접근 방식과 포괄적인 플랫폼 기능을 고유하게 결합하는 방식으로 에이전트의 안정적인 실행을 보장합니다.

오늘 Google Cloud는 다음과 같은 작업을 수행할 수 있도록 Vertex AI의 여러 개선사항을 발표합니다. 

• 개방형 접근 방식으로 에이전트를 빌드하고 엔터프라이즈급 제어 기능으로 배포

  • 에이전트 개발 키트(ADK)는 Google Agentspace 및 Google Customer Engagement Suite(CES) 에이전트를 지원하는 것과 동일한 프레임워크를 기반으로 에이전트를 설계하기 위한 오픈소스 프레임워크입니다. Agent Garden에서 강력한 예시와 확장 가능한 샘플 에이전트를 손쉽게 사용할 수 있습니다.

  • Agent Engine은 Vertex AI의 완전 관리형 런타임으로, 기본 제공되는 테스트, 출시, 안정성 기능을 통해 전 세계를 대상으로 안전한 규모로 커스텀 에이전트를 프로덕션에 배포하도록 지원합니다. 

• 엔터프라이즈 생태계 전반에서 에이전트 연결

  • Agent2Agent 프로토콜은 에이전트가 빌드된 프레임워크나 공급업체에 구애받지 않고 협업할 수 있는 개방형 공통 언어를 제공합니다. Google Cloud는 멀티 에이전트 시스템에 대한 공통의 비전을 발전시키기 위해 50개 이상의 업계 리더(더 늘어날 예정)와 협력하여 이 개방형 이니셔티브를 주도하고 있습니다.

  • Model Context Protocol(MCP)과 같은 개방형 표준을 사용하여 에이전트에 데이터를 제공하거나 Google Cloud에서 관리되는 API 및 커넥터와 직접 연결합니다. AI 대답을 Google 검색, 선호하는 데이터 소스 또는 Google 지도 데이터에 그라운딩할 수 있습니다.

에이전트 개발 키트 및 Agent Garden 소개: 개방형 접근 방식으로 에이전트 빌드

에이전트 개발 키트(ADK)는 에이전트 동작을 정밀하게 제어하는 동시에 에이전트 및 정교한 멀티 에이전트 시스템을 빌드하는 프로세스를 간소화하는 새로운 오픈소스 프레임워크입니다. ADK를 사용하면 100줄 미만의 직관적인 코드로 AI 에이전트를 빌드할 수 있습니다. 관련 예시는 여기에서 확인해 보세요.

현재 Python으로 사용할 수 있으며(올해 말에 더 많은 언어 지원 예정) 다음 작업을 수행할 수 있습니다.

• 결정론적 가드레일 및 조정 제어를 통해 에이전트의 사고, 추론, 협업 방식을 구성하여 에이전트 동작과 의사 결정 프로세스를 정밀하게 제어합니다. 

• ADK의 고유한 양방향 오디오 및 동영상 스트리밍 기능을 통해 에이전트와 사람처럼 자연스러운 대화를 나눕니다. 몇 줄의 코드만으로 자연스러운 상호작용을 만들어 에이전트를 사용한 업무 방식을 텍스트 수준에서 벗어나 원활한 대화 형식으로 바꿉니다. NEXT 2025 개회 기조연설에서 선보인 ADK 기반의 대화형 에이전트 데모는 여기에서 확인하세요.

• ADK 내에서 바로 액세스할 수 있는 즉시 사용 가능한 샘플 및 도구 모음인 Agent Garden으로 개발을 빠르게 시작합니다. 사전 빌드된 에이전트 패턴과 구성요소를 활용하여 개발 프로세스를 가속화하고 실제 사례를 통해 학습하세요.

• 니즈에 가장 적합한 모델을 선택합니다. ADK는 Gemini 또는 Model Garden을 통해 액세스할 수 있는 모든 모델 등 원하는 모델과 연동됩니다. Google의 모델 외에도 Anthropic, Meta, Mistral AI, AI21 Labs, CAMB.AI, Qodo 등의 제공업체의 200개가 넘는 모델 중에서 선택할 수 있습니다. 

• 로컬 디버깅이든 Cloud Run, Kubernetes, Vertex AI와 같은 컨테이너화된 프로덕션 배포든, 배포 대상을 선택 가능합니다. 또한 ADK는 Model Context Protocol(MCP)을 지원하여 데이터와 에이전트 간의 보안 연결을 지원합니다.

• Vertex AI에 대한 직접 통합을 사용하여 프로덕션에 배포 가능합니다. 개발에서 엔터프라이즈급 배포로 이어지는 이 명확하고 안정적인 경로를 통해 에이전트를 프로덕션으로 이전할 때 발생하는 일반적인 오버헤드를 제거할 수 있습니다.

ADK는 선호하는 도구와 연동되지만 Gemini 및 Vertex AI에 최적화되어 있습니다. 예를 들어 Gemini 2.5 Pro 실험 버전을 사용해 ADK로 빌드된 AI 에이전트는 Gemini의 향상된 추론 기능을 통해 복잡한 문제를 분류하고 도구 사용 기능을 통해 선호하는 시스템과의 연동이 가능합니다. 또한 ADK에서 Vertex AI에 대한 기본 통합을 사용하여 이 에이전트를 완전 관리형 런타임에 배포하고 엔터프라이즈 규모로 운영할 수 있습니다.

고객들이 ADK를 어떻게 사용하고 있는지 알아보세요.

“Revionics는 에이전트 개발 키트를 사용하여 소매업체가 마진을 유지하면서도 경쟁력을 유지하는 등 자체 비즈니스 로직에 따라 가격을 책정하고 가격 변동의 영향을 정확하게 예측할 수 있도록 지원하는 멀티 에이전트 시스템을 빌드하고 있습니다. ADK는 전문 에이전트(데이터 가져오기)와 도구(제약 조건 적용) 간에 전송할 시기를 파악하는 등 멀티 에이전트 전송 및 계획을 간소화하고, Revionics의 가격 책정 AI와 에이전틱 AI를 결합하여 전체 가격 책정 워크플로를 자동화합니다. 데이터는 Revionics 프로세스의 핵심이며 에이전트는 개발 키트를 사용해 LLM 컨텍스트에만 의존하기보다 스토리지 아티팩트를 통해 빅데이터를 효율적으로 추론할 수 있습니다.” – Aakriti Bhargava, Revionics 제품 엔지니어링 및 AI 부문 부사장

“Renault Group은 ADK를 사용해 운전자가 가장 필요로 하는 곳에 EV 충전기를 설치하도록 지원하는 에이전트를 개발했습니다. 이 에이전트는 데이터 분석가들이 지리적 위치, 구역, 교통정보 데이터를 활용하여 팀의 부담을 줄이면서 운전자의 편의성을 극대화하는 중요한 EV 인프라 투자를 파악하고 우선순위를 정하는 데 도움이 됩니다.” – Laurent Giraud, Renault Group 최고 데이터 및 AI 책임자 

“Nippon Television Holdings는 Gemini 기반의 동영상 분석 AI 에이전트의 핵심 요소로 에이전트 엔진을 구현했습니다. 이렇게 함으로써 인프라 걱정 없이 Python Vertex AI SDK를 활용할 수 있어 개발 시간을 한 달 정도 단축할 수 있었습니다. 또한 에이전트 엔진의 API는 Workflows와 같은 다른 Google Cloud 제품과 원활하게 연결되어 유지보수성이 뛰어나고 확장 가능성이 있습니다.” – Rina Tsuji, Nippon Television Holdings, Inc. 기업 전략 부문 선임 관리자

Agent Engine 소개: 엔터프라이즈급 제어 기능으로 AI 에이전트 배포

에이전트 엔진은 AI 에이전트를 프로덕션에 손쉽게 배포할 수 있는 완전 관리형 런타임입니다. 프로토타입에서 프로덕션으로 전환할 때 에이전트 시스템을 다시 빌드할 필요가 없습니다. 에이전트 엔진은 에이전트 컨텍스트, 인프라 관리, 확장 복잡성, 보안, 평가, 모니터링을 처리합니다. 또한 ADK(또는 선호하는 프레임워크)와 통합되어 개발부터 배포까지 원활한 경험을 제공합니다. 에이전트 엔진을 사용하여 다음 작업을 수행할 수 있습니다.

• 모든 프레임워크를 사용해 빌드된 에이전트를 배포: 사용 중인 프레임워크(ADK, LangGraph, Crew.ai 등) 및 선택한 모델(Gemini, Anthropic의 Claude, Mistral AI 등)과 관계없이 배포 가능합니다. 이러한 유연성은 거버넌스 및 규정 준수를 위해 엔터프라이즈급 제어 기능과 함께 사용됩니다.

• 세션에서 컨텍스트 유지: 에이전트 엔진은 매번 백지상태에서 시작하는 것이 아니라 단기 메모리와 장기 메모리를 지원합니다. 이런 방식으로 사용자는 세션을 관리하고, 에이전트는 사용자의 이전 대화와 선호사항을 기억할 수 있습니다.

• 에이전트 품질을 측정하고 개선: Vertex AI의 종합 평가 도구를 사용하여 수행 가능합니다. Example Store를 사용해 에이전트 성능을 개선하거나 모델을 파인 튜닝하여 실제 사용을 바탕으로 에이전트를 조정합니다.

• Agentspace에 연결하여 폭넓은 도입 촉진: 에이전트 엔진에서 호스팅되는 에이전트를 Google Agentspace에 등록 가능합니다. 이 엔터프라이즈 플랫폼은 직원에게 Gemini, Google 품질의 검색, 강력한 에이전트를 제공하는 동시에 중앙 집중식 거버넌스와 보안을 유지합니다.

다음은 이 모든 요소가 어떻게 작동하는지 보여줍니다.

앞으로 몇 개월 내에 고급 도구 및 테스트를 통해 에이전트 엔진 기능을 더욱 확장할 예정입니다. 에이전트는 컴퓨터 사용 기능을 갖추고 코드를 실행할 수 있게 됩니다. 또한 전용 시뮬레이션 환경에서 다양한 사용자 페르소나와 실제 도구를 사용해 에이전트를 철저하게 테스트하여 프로덕션 단계에서 안정성을 보장합니다.

Agent2Agent 프로토콜 소개: 엔터프라이즈 생태계 전반에서 에이전트 연결

엔터프라이즈 AI 도입에서 큰 어려움 중 하나는 서로 다른 프레임워크와 공급업체를 기반으로 빌드된 에이전트가 함께 작동하도록 하는 것입니다. Google Cloud가 멀티 에이전트 시스템의 비전을 공유하는 많은 업계 리더와 파트너십을 통해 개방형 Agent2Agent(A2A) 프로토콜을 만든 이유가 여기에 있습니다. 

Agent2Agent 프로토콜을 통해 다양한 생태계의 에이전트가 빌드된 프레임워크(ADK, LangGraph, Crew.ai 등) 또는 공급업체와 관계없이 서로 통신할 수 있습니다. A2A를 사용하면 에이전트가 자신의 기능을 게시하고 사용자와 상호작용할 방법(텍스트, 양식 또는 양방향 오디오/동영상)을 결정하며, 이 모든 작업을 함께 안전하게 수행 가능합니다. 

현재 Box, Deloitte, Elastic, PayPal, Salesforce, ServiceNow, UiPath, UKG, Weights & Biases 등 50개가 넘는 파트너가 프로토콜 개발을 위해 Google Cloud와 협력하고 있습니다. 이 프로토콜을 사용하는 파트너에 대한 자세한 내용은 블로그(여기)를 참조하세요.

에이전트는 다른 에이전트와 협업하는 것 외에도 여러 데이터 소스, API, 비즈니스 기능 전반에 걸쳐 빌드된 정보 생태계인 기업 지식에 액세스 가능해야 합니다. 사용자는 선호하는 접근 방식을 사용하여 처음부터 빌드하지 않고도 기존의 기업 지식 데이터를 에이전트에 제공할 수 있습니다. 

• ADK는 Model Context Protocol(MCP)을 지원하므로 에이전트는 MCP 호환 도구의 확장형 생태계를 활용하여 이미 사용 중인 방대하고 다양한 데이터 소스 또는 기능에 연결합니다.

• 또한 ADK에서 에이전트를 엔터프라이즈 시스템과 기능에 직접 연결할 수 있습니다. 여기에는 100개 이상의 사전 빌드된 커넥터, Application Integration으로 빌드된 워크플로 또는 AlloyDB, BigQuery, NetApp 등의 시스템 내에 저장된 데이터가 포함됩니다. 예를 들어 사용자는 데이터를 복제할 필요 없이 기존 NetApp 데이터에서 바로 AI 에이전트를 빌드할 수 있습니다.

• 또한 ADK를 사용하면 LangGraph와 같은 다른 프레임워크로 빌드된 기존 에이전트 또는 MCP, LangChain, CrewAI, Application Integration, 모든 OpenAPI 엔드포인트 등 다양한 소스의 호출 도구에 원활한 연결이 가능합니다.

• Apigee API 관리에서는 Google Cloud 내외부에서 비즈니스를 지원하는 80만 개 이상의 API를 관리합니다. 또한 ADK를 사용하면 에이전트가 위치와 관계없이 적절한 권한을 통해 이러한 기존 API 투자를 활용합니다.

연결되면 Google 검색과 같은 정보 또는 Cotality, Dun & Bradstreet, HGInsights, S&P Global, Zoominfo와 같은 제공업체의 전문 데이터를 사용하여 AI 대답을 그라운딩할 수 있습니다. 지리정보 컨텍스트에 의존하는 에이전트의 경우 이제 에이전트를 Google 지도에 그라운딩하도록 지원합니다¹. Google Cloud는 매일 1억 번의 Google 지도 데이터 업데이트를 통해 최신의 사실 정보 제공을 보장합니다. 이제 에이전트에서 Google 지도를 사용한 그라운딩을 통해 미국 내 수백만 개의 장소와 연결된 지리정보를 포함한 대답을 제공합니다. 

AI 에이전트를 위한 엔터프라이즈급 보안: 기업이 신뢰할 수 있는 에이전트 빌드

프로덕션 환경에서 운영되는 엔터프라이즈 AI 에이전트는 기능 외에도 프롬프트 인젝션 공격, 무단 데이터 액세스, 부적절한 콘텐츠 생성 등의 보안 문제에 직면합니다. Google Cloud에서 Gemini와 Vertex AI를 사용해 빌드하면 이러한 과제를 여러 레이어에서 해결하는 데 도움이 됩니다. 사용자는 다음 작업을 할 수 있습니다. 

• Gemini의 기본 안전 기능을 사용하여 에이전트 출력을 제어합니다. 여기에는 구성 가능한 콘텐츠 필터가 포함되며 금지된 주제에 관한 경계를 정의하고 브랜드 어조에 부합하는 시스템 안내가 포함됩니다.

• 에이전트가 전용 서비스 계정으로 작동하는지 아니면 개별 사용자를 대신하여 작동하는지 여부를 결정할 수 있는 ID 제어를 통해 에이전트 권한을 관리하여 권한 에스컬레이션과 무단 액세스를 방지합니다.

• Google Cloud의 VPC 서비스 제어를 사용하여 에이전트 활동을 안전한 경계 내로 제한하는 방식으로 민감한 정보를 보호하여 데이터 무단 반출을 방지하고 잠재적인 영향 범위를 제한합니다.

• 모델에 도달하기 전 입력 검사부터 도구 실행 전 파라미터 검증까지 모든 단계에서 상호작용을 제어하기 위해 에이전트 주변에 가드레일을 설치합니다. 특정 테이블로 데이터베이스 쿼리를 제한하거나 경량 모델을 사용해 안전성 검사기를 추가하는 등의 정책을 적용하는 방어 경계를 구성할 수 있습니다.

• 추론 프로세스, 도구 선택, 실행 경로를 포함하여 에이전트가 수행하는 모든 작업을 파악하는 포괄적인 추적 기능을 사용하여 에이전트 동작을 자동 모니터링합니다.

멀티 에이전트 시스템 빌드 시작하기 

Vertex AI의 진정한 가치는 위에서 설명한 개별 기능에 있는 것이 아니라 이러한 기능이 통합된 전체로서 함께 작동하는 방식에 있습니다. 이전에는 여러 공급업체의 단편화된 솔루션을 조합해야 했지만 이제는 단일 플랫폼을 통해 원활하게 작업이 진행됩니다. 이와 같은 통합 접근 방식을 사용하면 모델, 엔터프라이즈 앱 및 데이터와의 통합, 프로덕션 준비 상태 간에 절충안을 찾는 어려운 과정을 제거할 수 있습니다. 그 결과, 단순한 개발 속도 향상에 그치지 않고 엔터프라이즈 워크플로에 적합하고 더 안정적인 에이전트 제공이 가능해집니다. 시작하려면 다음 단계를 따르세요. 

1. 에이전트 개발 키트로 빌드하기

2. Vertex AI 콘솔 방문하기

3. 문서 살펴보기

_{1. Google 지도를 사용한 그라운딩 기능은 현재 미국에서 실험 버전으로 테스트 중이며, 미국의 장소 데이터만 사용자에게 제공됩니다.}