Ask OCTO: 에이전트 이해하기

* 본 아티클의 원문은 2025년 06월 11일 Google Cloud 블로그(영문)에 게재되었습니다.

'Ask OCTO' 칼럼에서는 Google Cloud CTO실 전문가들이 현재 여러분과 여러분의 조직이 직면한 비즈니스 및 IT 과제에 대한 질문에 답해 드립니다. 이 시리즈는 Google Cloud 버전의 어드바이스 칼럼이라고 생각하면 됩니다. 다루는 주제가 기술 스택이라는 점만 다를 뿐입니다.

Google Cloud CTO실의 모토는 '협력을 통한 실용적인 해결책'입니다. Google Cloud 기술 전문가와 주요 조직의 전임 CTO들로 구성된 이 팀은 Google의 가장 중요하고 전략적인 고객이 중대한 과제를 해결하도록 지원하고 있습니다.

이번 달에는 CTO실의 Will Grannis와 그의 팀을 만나 AI 에이전트의 정의와 오늘날 AI 환경에서 AI 에이전트의 중요성을 알아보겠습니다. 

AI 에이전트는 오늘날 기업 기술 분야에서 가장 흥미로운 개발 제품 중 하나입니다. 많은 사람에게 익숙해진 독립적인 AI 도구와 달리 AI 에이전트는 인간 팀처럼 함께 작업합니다. 복잡한 문제를 세분화하고, 전문적인 작업을 위임하고, 협업하여 단일 AI 또는 인간 혼자서는 달성할 수 없는 결과를 제공할 수 있습니다.

그런데 앞으로 Google Cloud의 OCTO 전문가들도 말씀드리겠지만 효과적인 에이전트 시스템을 빌드하는 것은 기술만의 문제가 아닙니다. 지능형 협업을 어떻게 설계하고, 어디서부터 시작하며, 어떻게 책임감 있게 확장할지에 대한 깊이 있는 이해가 필요합니다. AI 에이전트를 처음 탐색하거나 조직 내에서 AI 에이전트의 역할을 확장하고자 하는 등 어떤 상황에 있든 앞으로 소개할 인사이트는 빠르게 변화하는 환경에 대처하는 데 도움이 될 것입니다. 마지막으로는 올해 Google I/O에서 팀이 출시한 몇 가지 새로운 에이전트에 대해서도 소개하니 끝까지 읽어주시기 바랍니다. 

John Abel, 상무이사

저에게 에이전트는 비즈니스를 위해 작업을 수행하는 대리인입니다. 비즈니스 프로세스에서 마찰과 반복 업무를 제거하고 고객, 직원, 파트너를 도울 수 있습니다.

저는 난독증을 겪고 있는데, 에이전트는 이 엄청난 장벽을 없애 줬습니다. 에이전트는 제 아이디어를 실현하고 글쓰기와 학습에 도움이 됩니다. 비즈니스를 넘어 개인적인 여정에도 핵심적인 역할을 하고 있습니다.

에이전트를 최대한 활용하기 위한 5가지 팁을 소개합니다.

1. 이유를 정의하세요. 에이전트가 중요한 이유를 이해하면 무엇을 어떻게 활용할지 정의하기가 훨씬 쉬워집니다. 이유를 파악했다면 목표를 명확히 하세요. 어떤 목표를 달성하려고 하나요?

2. 작게 시작하고 구체적으로 접근하세요. 구체적인 작업에 집중하세요. 작은 성공이 쌓여 탄탄한 기반이 되고 성공적인 결과로 이어집니다. 주저하지 말고 시도하고, 배우고, 개선해 나가세요.

3. 인간과 에이전트를 결합하세요. 인간 참여형(Human In The Loop) 접근 방식을 유지하고 에이전트를 코칭하여 정의된 목표를 달성하세요.

4. 데이터를 이해하세요. 에이전트는 데이터 기반으로 작동합니다. 데이터를 파악해야 합니다. 무엇을 달성할 수 있고 무엇이 부족한지 알아야 합니다. 

5. 배우고자 하는 태도를 기르세요. AI가 가져다줄 기회를 인식하세요. 이 분야는 빠르게 변화하고 있으므로 새로운 사고방식을 받아들이는 것이 중요합니다.

저는 AI 시대에 대한 기대가 큽니다. 특히 마찰을 줄이고 확장성을 확보함으로써 장벽을 제거하여 아이디어를 실현하는 데 도움이 될 수 있으므로 에이전트 활용에 엄청난 기대를 하고 있습니다. 

Antonio Gulli, 특별 엔지니어

기업은 AI 에이전트의 잠재력, 특히 인간의 팀워크를 시뮬레이션하고 강화하는 능력을 점점 더 많이 살펴보고 있습니다. AI 모델은 강력한 기능을 보여줬지만, 대게 독립적으로 작동하여 특정 프롬프트에 대한 응답으로 주로 도구를 통해 외부 세계에 접근합니다. 

그러나 AI 에이전트는 기본 AI 모델을 기반으로 하는 경우가 많은 여러 전문화된 역할을 조율하고 조정할 수 있게 하여 복잡한 작업을 협업하여 해결하는 중대한 발전을 보여줍니다. 이러한 멀티 에이전트의 협업적 접근 방식에는 다음과 같은 뚜렷한 이점이 있습니다.

• 전문화 및 점진적 개선: 개별 에이전트는 고도로 전문화된 역할(예: 데이터 분석 에이전트, 보고서 작성 에이전트, 검증 에이전트)에 맞게 설계 또는 세부 조정될 수 있습니다. 이런 식의 집중을 통해 모놀리식 시스템을 재학습시킬 필요 없이 각 구성요소의 성능을 목표에 맞춰 개발 및 테스트하고 점진적으로 개선할 수 있습니다.

• 작업 세분화 및 모듈성: 복잡한 비즈니스 프로세스나 문제를 보다 간단하고 명확하게 정의된 하위 작업으로 세분화할 수 있습니다. 각 하위 작업은 전용 에이전트에 할당 가능하기 때문에 독립적으로 개발하고, 각 단계에 맞는 구체적인 평가 기준으로 강력한 테스트를 진행할 수 있으며, 디버깅도 더 수월해집니다.

• 새로운 시너지 효과 및 향상된 결과: 효과적인 인간 팀과 마찬가지로 전문 에이전트 간의 협업은 새로운 지능의 탄생과 더욱 탁월한 결과로 이어질 수 있습니다. 에이전트는 정보를 교차 검증하고, 병렬로 작업하고, 출력을 반복적으로 미세 조정하고, 문제의 다양한 측면을 동시에 처리할 수 있으며, 단일 모델이나 개별적인 인간이 생산할 수 있는 수준을 뛰어넘어 더욱 강력하고 우수한 품질을 달성할 잠재력이 있습니다.

예를 들어 Google의 에이전트 개발 키트(ADK)와 같은 프레임워크는 정교한 멀티 에이전트 시스템의 생성을 획기적으로 간소화합니다. 이러한 프레임워크는 개발자가 주로 정교하게 엔지니어링된 프롬프트를 통해 고유한 에이전트 역할, 성격, 기능을 정의할 수 있도록 지원하며, 핵심적인 운영 로직 및 외부 시스템과의 상호작용은 간단한 Python 코드로 구현할 수 있는 경우가 많습니다. 

특히 중요한 발전은 Gemini와 같은 파운데이션 모델이 정교한 프롬프트를 작성하고 필요한 Python 코드를 생성하는 데 개발자를 지원하는 새로운 메타 기능의 등장입니다. AI 자체가 더 복잡하고 협업적인 AI 시스템을 만드는 데 기여하는 이러한 메타 시너지는 개발 주기를 크게 가속화하고 상당한 잠재력을 발휘합니다. 

설정은 간단하지만 강력한 성능을 자랑하는 AI 에이전트는 모든 엔터프라이즈 애플리케이션에서 우리가 생각하고 협업하는 방식을 혁신할 준비가 되어 있습니다. 그 미래는 매우 밝습니다.

Michael Zimmerman, 수석 엔지니어

전 세계의 기업이 매출과 효율성을 높이기 위해 에이전트 기반 워크플로를 도입하기 시작했습니다. 이러한 기업에는 일반적인 모델과는 다른 에이전트 접근 방식이 필요한 경우가 많으며, 구체적인 비즈니스 컨텍스트와 맞춤 워크플로를 이해하는 에이전트가 필요합니다. 일반적인 기업 환경은 일반적인 표준 에이전트에 뚜렷이 구분되는 과제를 제시합니다. 

Google Cloud는 이러한 고객에게 고급 기능을 지원합니다. 여기에는 엔터프라이즈 지식 그래프, 에이전트 간 프로토콜, 에이전트 개발 키트의 기본 MCP 지원, 맞춤형 도구 궤적, 에이전트의 사고 및 추론 프로세스에 특정 기업 정보를 통합하는 기타 구성요소가 포함됩니다.

기업에서의 에이전트 사용을 더욱 지원하기 위해 Google Cloud는 개방성에 대한 약속을 반영하여 에이전트 간(A2A) 프로토콜을 출시했습니다. A2A는 클라우드에서 상호 연결된 에이전트 네트워크를 가능하게 하여 다양한 에이전트가 협업해 워크플로를 수행할 수 있도록 합니다. 이는 부서별 책임 구분이나 비즈니스 부문별 구분으로 인해 발생할 수 있는 분리된 구조를 허무는 데 도움이 됩니다.

Diane Chaleff, 그룹 제품 관리자

AI 에이전트가 무엇을 할 수 있는지 이해하는 것과 이를 팀의 일상 업무에 성공적으로 도입하는 것은 별개의 문제입니다. 어떻게 시작해야 가장 좋을지, 미래에는 어떻게 될지 당연히 궁금할 것입니다. 여기서는 AI 에이전트와 관련된 몇 가지 실제적인 고려사항을 제시하고 보다 넓은 관점에서 살펴보겠습니다.

• 직원 독려하기: 가능한 한 빨리 에이전트를 사용하도록 독려해 보세요. 중요도가 낮은 작업을 수행하는 데 에이전트를 사용해 보면서 실행 방식에 익숙해질 수 있습니다. AI 에이전트를 유능한 비서라고 생각해 보세요. AI 에이전트는 방대한 정보를 모아서 이해하는 데 매우 능숙합니다. 처음에는 복잡해 보일 수 있지만, 많은 기술이 그렇듯이 사람들이 일단 에이전트를 사용해 보면 간단하다는 것을 알게 됩니다.

• 직원들의 자율성과 역량 강화하기: 직원들은 에이전트로 일상 업무의 속도를 높이고 이를 개선할 방법에 대한 최고의 아이디어를 알고 있는 경우가 많습니다. 중앙 IT 부서는 에이전트 보안 유지에 중요한 역할을 하며, 직원들은 일반적으로 자신의 특정 업무 흐름을 가장 잘 이해하고 에이전트 통합으로 더 빠르게 작업을 완료할 수 있는 부분을 잘 알고 있습니다. 그러므로 직원들이 에이전트를 살펴보도록 장려하는 재미있는 도전 과제를 만들고 여기서 나온 아이디어를 기술팀과 협업하여 발전시키도록 돕는 것이 좋습니다.

• 에이전트를 확보할 때 더 넓은 시장이 있다는 점 고려하기: 스마트폰이 처음 등장했을 때는 몇 가지 기본 앱만 탑재되어 있었습니다. 하지만 이후 더 넓은 개발자 커뮤니티에서 앱 마켓플레이스를 통해 오늘날 우리가 볼 수 있는 수백만 개의 애플리케이션을 만들었습니다. AI 에이전트의 경우에도 비슷한 패턴이 나타날 것입니다. 지금은 수많은 새로운 에이전트가 이제 막 개발되어 공유되기 시작하는 시점입니다.

Ben McCormack, 수석 엔지니어

AI 에이전트는 머신러닝, 자연어 처리, 계획 알고리즘과 같은 AI를 사용하여 주변 환경을 이해하고, 인식한 내용을 바탕으로 생각하고, 스스로 결정을 내리고, 특정 목표를 달성하기 위해 행동하는 시스템입니다. 이러한 에이전트는 작업을 진행하면서 학습하고 조정하는 경우가 많습니다. 즉, AI 에이전트는 단순히 질문에 답하는 시스템을 넘어 마치 인간처럼 행동할 수 있다는 뜻입니다.

AI 에이전트는 작동 방식을 규정하는 고유한 구성요소와 특성을 가지고 있습니다.

핵심 아이디어: 지능형 자율성AI 에이전트는 AI를 사용하여 불확실성, 복잡성, 학습을 관리한다는 점에서 단순하게 프로그래밍된 에이전트와 차별화됩니다. AI 에이전트는 추론, 문제 해결, 계획, 학습과 같은 사고 능력을 모방하여 작동합니다. 이를 통해 목표를 더 효과적으로 달성하고 변화하는 상황에 적응할 수 있습니다.

AI 기반의 주요 특성

더 심층적인 인식: 에이전트는 AI를 통해 텍스트, 이미지, 오디오, 동영상 등의 입력으로부터 더 풍부한 정보를 얻을 수 있습니다.

• 고급 의사 결정: 에이전트는 불명확한 상황을 관리하고, 예측하고, 복잡한 목표(예: 장기적 이익 극대화)를 향해 나아갈 수 있습니다.

• 학습 및 적응: AI 에이전트의 핵심 기능은 시간이 지남에 따른 개선입니다. AI 에이전트는 데이터, 피드백, 경험 등을 통해 학습합니다. 예를 들어 게임 실력이 향상되거나, 거래 전략을 세부 조정하거나, 사용자의 선호도에 맞게 조정합니다. 또한 비정상적인 상황을 감지하고 관리하는 데도 도움이 됩니다.

• 복잡한 목표 처리: 에이전트는 여러 단계의 추론과 계획이 필요한 추상적이거나 복잡한 목표도 공략할 수 있습니다.

AI 에이전트의 실제 사용 사례AI 에이전트는 다양한 분야에서 활용됩니다.

• 비즈니스 프로세스 자동화: 에이전트는 그 복잡성으로 인해 이전에는 인간의 감독이 필요했던 회사 시스템 간의 복잡한 상호작용을 관리할 수 있습니다.

• 고급 가상 어시스턴트: 단순한 명령을 넘어 상세한 대화를 처리하고 여러 단계의 작업을 수행할 수 있습니다(예: '오늘 저녁에 참석하는 행사 장소 근처의 음식점을 찾아 리뷰를 확인하고 오후 7시로 예약해 줘.')

• 자율 작업 플랫폼: Auto-GPT, CrewAI, LangChain과 같은 도구를 사용하면 에이전트가 온라인에서 주제를 독립적으로 조사하고, 코드를 작성 및 디버그하고, 정보를 요약하고, 다양한 소프트웨어 도구를 활용하여 광범위한 목표를 달성할 수 있습니다.

• 자율 주행 차량: 컴퓨터 비전, 센서 융합, 계획, 제어 이론을 포함한 복잡한 AI를 사용하여 주변 환경을 이해하고 안전하게 주행합니다.

• 더 스마트한 게임 AI: 게임 상대로서 인간 사용자의 플레이 방식을 학습하고 그에 따라 자신의 전략을 변경합니다.

• AI를 사용한 로보틱 처리 자동화(RPA): 문서를 이해하고, 정보를 추출하고, 결정을 내리는 복잡한 비즈니스 운영을 자동화합니다.

• 과학 연구 지원: AI 에이전트는 신약 개발 또는 재료 과학과 같은 분야에서 가설을 세우고, 실험을 설계하고, 데이터를 분석하는 데 도움이 될 수 있습니다.

요약하자면 AI 에이전트는 목표 지향적이며 독립적인 시스템으로, 복잡한 정보를 처리하고 추론하고 학습하고 적응하는 AI 모델의 역량에 따른 큰 이점을 누립니다. 이를 통해 AI 에이전트는 한때 인간의 직접적인 개입이 필요했던 작업을 수행할 수 있는 독특한 유형의 기술로 거듭났습니다.

Yingchao Huang, 소프트웨어 엔지니어

성공적인 AI 에이전트를 위한 핵심 전략그렇다면 성공적인 AI 에이전트를 빌드하려면 어떻게 해야 할까요? 신중한 설계와 검증된 엔지니어링 원칙을 적용하여 강력하고 지능적인 솔루션을 만들어야 합니다.

AI와 기존 소프트웨어의 스마트한 결합으로 빌드매우 효과적인 에이전트를 빌드하는 좋은 방법은 AI의 고유한 강점과 기존 소프트웨어 구성요소의 정밀성을 결합한 시스템 설계입니다. 언어 이해, 패턴 찾기, 확률에 따른 추론 등 AI가 잘하는 일에는 AI를 사용하세요. 정확한 로직, 정밀한 계산 또는 안정적인 데이터 처리가 필요한 작업에는 기존 소프트웨어를 사용합니다. 

이러한 AI 기반 서비스와 소프트웨어 기반 서비스가 서로 명확하게 통신할 수 있도록 명확하게 정의된 통신 방법(예: gRPC/Protobuf 또는 REST/JSON 스키마와 같은 특정 입력/출력 규칙이 있는 API)을 사용하세요. 이를 통해 안정적으로 함께 작동할 수 있습니다. 무엇보다도 AI 부분을 설계할 때 세부정보가 누락되거나 불분명한 경우 더 많은 정보를 요청하고 모든 요구사항을 충족하는 응답을 출력하도록 설계해야 합니다. 이는 정확성을 높이고 잘못된 가정을 피하는 데 도움이 됩니다.

안정성에 초점을 두고 소프트웨어 엔지니어링 관행 적용처음부터 확립된 소프트웨어 엔지니어링 관행을 통합하면 에이전트 안정성을 크게 향상할 수 있습니다. 철저한 테스트를 통해 에이전트를 검증할 수 있도록 해야 합니다. 에이전트의 작업에 맞게 구체적으로 조정된 다양한 수준의 테스트(단위, 통합, 엔드 투 엔드, 시스템 테스트)를 사용합니다. 

즉, 에이전트가 제대로 작동하는지 여부뿐만 아니라 추론하고, 결정을 내리고, 불명확한 상황을 처리하는 방식도 확인해야 합니다. 성공을 가늠하는 명확한 목표와 에이전트가 수행할 것으로 기대하는 작업을 설정합니다. 무엇보다 확실한 백업 계획을 구축해야 합니다. 여기에는 원활한 오류 처리 방법, 시스템이 자동으로 오류를 관리하는 방법, 에이전트가 스스로 처리할 수 없는 문제를 만났을 때 인간이 개입하거나 문제를 해결할 수 있는 인간에게 문제를 전달하는 명확한 방법 등이 포함됩니다.

_________________________________________________________________________________________

미래의 업무는 인간과 AI의 대립이 아니라 인간과 AI의 협업을 중심으로 이루어질 것입니다. 이러한 모습은 AI 에이전트에서 가장 뚜렷하게 드러납니다.

올해 Google I/O에서 Google Cloud OCTO팀은 이러한 원칙을 실천에 옮겨 인간의 전문성과 지능형 자동화를 결합하면 무엇이 가능한지 보여주는 세 가지 전문 에이전트를 출시했습니다.

• 학술 연구 에이전트: 연구자가 최신 간행물을 찾고 새로운 연구 분야를 파악하도록 도와 더 빠르게 학문적 발견을 수행할 수 있게 합니다.

• 금융 자문 에이전트: 금융 및 투자 관련 교육 콘텐츠에 즉시 액세스할 수 있도록 지원하여 인간 금융 자문가의 역량을 강화합니다.

• 마케팅 대행사 에이전트: 도메인 제안, 웹사이트 제작, 마케팅 전략 개발, 브랜드 애셋 설계 등 모든 과정을 조정하여 신제품 출시 과정을 혁신합니다.

이는 에이전트가 인간을 대체하는 것이 아니라 인간의 역량을 강화할 수 있다는 사실에 대한 단순한 개념 증명이 아닌 실질적인 예시입니다. 여기에서 자세히 살펴보세요. 

AI 에이전트 시대에 성공을 거둘 조직은 단순히 최신 기술을 배포하는 조직이 아닙니다. 인간의 지능과 AI 간의 협업 시스템을 신중하게 설계하여 양측이 각자의 강점을 최대한 발휘할 수 있는 팀을 만드는 조직이 성공할 것입니다. AI 에이전트를 처음 탐색하거나 조직 내에서 AI 에이전트의 역할을 확장하고자 하는 등 어떤 상황에 있든 이것을 기억하세요. 여러분의 도구 가운데 가장 강력한 에이전트는 언제나 인간의 호기심, 창의성, 업무 수행 방식을 재구상할 의지입니다. 인간과 AI가 협업하는 여러분의 미래를 만들어 갈 준비가 되셨나요? AI 에이전트가 기다리고 있습니다.