Ask OCTO: 엔터프라이즈 에이전트 관리 및 확장을 위한 새로운 인사이트

*이 콘텐츠는 AI 번역 도구를 사용하여 번역되었습니다. 정확성을 기하기 위해 노력하고 있으나, 자동 번역에는 오류나 누락이 포함될 수 있습니다. 정확한 정보는 영문 원본을 참고해 주시기 바랍니다.

'Ask OCTO' 칼럼에서는 Google Cloud CTO실 전문가들이 현재 여러분과 여러분의 조직이 직면한 비즈니스 및 IT 도전과제에 관한 질문에 답해 드립니다.

이번 달에는 CTO실의 Will Grannis와 그의 팀원들을 만나 Google Cloud Next '26을 되돌아보겠습니다. 32,000명의 참석자, 수백 건의 발표, 수많은 고객 대화로 가득했던 3일간의 라스베이거스 일정을 마치고 돌아온 팀원들에게 가장 기억에 남는 내용을 꼽아 달라고 요청했습니다. 집으로 돌아가는 비행기 안에서도 머릿속을 맴돌던 생각들은 무엇이었을까요?

네 가지 주제가 두드러졌습니다.

에이전트가 출시되었습니다. 이제 이것을 관리해야 합니다.

에이전트가 주류로 부상했습니다. 그만큼 불안감도 존재합니다.

Ben McCormack

에이전트는 어디에나 있습니다. Next에서 만난 모든 고객은 비즈니스 프로세스를 추진하기 위해 어떤 형태로든 에이전트를 운영하고 있으며, 그 열기는 대단했습니다.

그만큼 FOMO도 존재합니다. 많은 고객이 스스로 뒤처지고 있다고 생각합니다. 실제로는 거의 모든 기업이 비슷한 상황에 처해 있습니다. 도입이 광범위하게 이루어지고 있지만, 아직 답을 찾지 못한 질문이 많습니다. 고객이 궁금해하는 질문은 디지털 네이티브부터 전통적 엔터프라이즈에 이르기까지 스펙트럼 전반과 전 지역에 걸쳐 놀라울 정도로 일관되었습니다. 모두가 에이전트를 더 안전하게 보호하고 에이전트가 실제로 무엇을 하고 있는지 파악할 수 있는 더 나은 방법을 찾고 있습니다. 고객들은 이러한 기능 중 일부는 플랫폼 자체에서 제공되고, 일부는 에이전트가 작업에 접근하는 방식에서 제공되기를 기대합니다.

유럽 고객의 경우 고려해야 할 사항이 한 가지 더 있습니다. 바로 주권(Sovereignty)입니다. 거의 모든 대화에서 주권이 언급되었으며, 고객들은 AI 전략의 기반이 되는 기술 공급망을 이해하고 싶어 합니다.

새로운 내부자 위험

Troy Trimble

제품과 프로세스에 에이전트 AI를 적용했을 때의 이점에 대한 많은 기대와 일화가 들려옵니다. 동시에 비즈니스 및 기술 리더들 사이에서는 도입에 대한 불안감이 감지되고 있습니다.

에이전트는 새로운 유형의 내부자 위험이기 때문입니다. AI 에이전트는 인간 직원에게 기대하는 것과 비슷한 수준의 기대를 충족할 수 있도록 이해하고 통제할 수 있어야 합니다. 오늘날의 보안 모델은 인간을 중심으로 구축되었으며, 인간을 대신해 결정을 내리는 자율형 소프트웨어는 고려되지 않았습니다.

고객들은 이를 잘 알고 있습니다. 이미 많은 기업이 데이터 무단 반출 가능성을 방지하기 위해 인터넷과 내부 에이전트 간에 정보가 안전하게 전달되도록 정교한 데이터 방화벽을 설정했습니다. 도구가 사용 사례를 따라잡는 과정에 있기 때문에 거버넌스를 즉석에서 마련하고 있습니다. Google Cloud가 이러한 문제를 해결하는 데 필요한 제품 및 기능 개발을 지속적으로 제공할 것이라는 분명한 기대감이 존재합니다.

이러한 이유로 Next에서 발표한 두 가지 소식이 큰 반향을 일으켰습니다. Agent Identity는 인간 중심의 보안 모델 내에서 에이전트를 어떻게 이해하는 할지에 대한 격차를 해소합니다. Knowledge Catalog도 비슷한 이유로 큰 관심을 받았습니다. Knowledge Catalog는 더 많은 데이터 소스를 수집하고 에이전트형 솔루션에 대한 비즈니스별 컨텍스트를 제공하여 신뢰 방정식의 절반을 충족합니다. 나머지 절반은 에이전트가 실제로 무엇을 하고 있는지 아는 것입니다.

에이전트 간 대화

Patricia Florissi

지난달 이 칼럼에서 에이전트가 사무실을 떠났다고 말씀드렸습니다. 실제로 그랬습니다. Next 이후 분명해진 것은 에이전트가 출시되고 나면 다른 에이전트와 상호작용하여 작업을 수행한다는 것입니다. 이러한 상호작용 중 일부는 동일한 기업 내의 에이전트 간에 발생하지만, 일부는 조직 경계를 넘어서 발생합니다.

자율적이든 아니든 이러한 상호작용이 제대로 작동하려면 거버넌스, 보안, 모니터링 가능성이라는 세 가지 요소가 갖춰져 있어야 합니다. 고객들은 Gemini Enterprise Agent Platform을 통해 이러한 속성을 에이전트에 대규모로 추가할 수 있다는 점에 주목했습니다.

이러한 기대감 이면에는 사실 긴장감이 존재합니다. 고객들은 조직의 모든 구성원이 에이전트를 빌드하고 생성형 AI의 이점을 활용할 수 있기를 원합니다. 한편, 에이전트의 확산과 그로 인해 발생하는 취약점 표면에 대해 진지하게 우려하고 있습니다. 고객들은 민주화와 통제를 동시에 원합니다. 둘 중 하나만 해결하는 것은 진정한 문제 해결이 아닙니다.

비용 측면도 생각해야 합니다. 인력 구성이 인간과 에이전트가 함께 일하는 하이브리드 형태로 바뀌면서 고객들은 생성형 AI 비용이 예측하기 어려운 방식으로 증가하는 것을 지켜보고 있습니다. 특히 출력에 대해 책임져야 하는 규제 환경에서는 더 높은 결정론을 보장하는 아키텍처 및 문제 해결 패턴을 요구하고 있습니다.

고객들이 Google Cloud로 대규모 마이그레이션을 추진하고 데이터를 생성형 AI에 맞게 재설계하는 모습은 인상적이었습니다. 이러한 투자는 생성형 AI가 비즈니스의 미래에 중요하며, 이를 활용할 수 있는 기반이 필요하다는 인식에서 비롯됩니다. 또한 뒤처지고 있는 것은 아닌지 궁금해하며 때로는 불안해하기도 합니다. 기조연설과 패널 토론이 끝나면 고객들은 '이미 이런 방식으로 일하는 기업들이 있나요?'라고 묻곤 했습니다.

업무를 수행하면서 끊임없이 학습하는 에이전트

지속적 학습이야말로 진정한 업무

Michael Zimmermann

에이전트는 배포 후에도 끊임없이 학습하고 품질을 개선해야 합니다. 프로덕션에 푸시된 대부분의 에이전트는 완벽하지도, 완전히 자율적이지도, 100% 정확하지도 않습니다. 이들은 인간의 감독이 필요하며, 인간의 감독을 통해 에이전트가 진화하고 인간 전문가로부터 배울 수 있는 매력적인 기회가 존재합니다. 에이전트가 자율적이고 100% 완벽하더라도, 환경은 변화하기 마련이며 에이전트는 인간 직원과 마찬가지로 진화하고 적응해야 합니다.

인간 참여형(HiTL) 패턴은 인간-에이전트 협업 패턴으로 발전할 수 있습니다. 인간 감독의 형태는 변화합니다. 에이전트는 HiTL 방식에서 벗어나 인간 전문가의 정제된 판단을 추출하고 그들의 지식을 에이전트가 활용할 수 있는 컨텍스트로 증류하는 방향으로 전환할 수 있습니다. 주제 전문가(SME)가 에이전트를 학습시킬 때 이러한 가르침은 데이터가 되며, 이는 절대 잊히지 않습니다. 에이전트는 단일 예시에서 학습하며, LLM의 방대한 공개 지식과 기업의 맞춤화된 고유 지식이 융합되어 에이전트가 높은 수준의 자율성을 달성할 수 있게 합니다. 이 끝없는 루프의 결과는 인간의 반복 업무가 점차 줄어들고, 영향력이 커지며, ROI가 눈에 띄게 높아지는 것입니다. 

Next에서 발표된 여러 Google Cloud 소식이 이러한 아키텍처 패턴을 구성하기 시작했습니다. Gemini Enterprise Agent Platform은 SME 참여형 패턴을 통해 프로덕션 환경에서 안전하고 보안이 보장된 에이전트 학습을 위한 빌딩 블록을 제공합니다. 이러한 기반 아래에는 A2UI, 컨텍스트 관리, 에이전트 ID, 평가 하네스, ADK, Agent Runtime과 같은 구성요소가 연속적인 학습 구조를 형성합니다. 이를 통해 에이전트는 업무를 수행하면서 계속해서 개선됩니다.

전보에서 전화기로

Antonio Gulli

현재 AI 코딩과 소프트웨어 엔지니어링 분야의 재편을 둘러싸고 많은 일이 일어나고 있습니다. 최근 인상 깊은 비유를 하나 들었습니다. 지금 일어나는 변화는 과거 전보에서 현대적인 전화기로 넘어가던 것과 같다는 것입니다. 전보 시대에는 메시지를 보내려면 전문 통신원을 거쳐야 했습니다. 하지만 이제는 누구나 서로 직접 소통합니다. 코딩 분야에서도 동일한 개방이 일어나고 있습니다. Antigravity와 같은 도구는 이러한 변화의 일부이며, 고객들이 계속해서 묻는 질문은 AI가 이처럼 업무를 획기적으로 변화시킬 다음 영역은 무엇인가 하는 것입니다.

에이전트는 더 이상 공상과학 소설 속 개념이 아닙니다. 표준 모델이 계속해서 더 스마트해지고 있지만, 에이전트는 실제로 세상과 상호작용한다는 점에서 별개의 범주입니다. 에이전트는 메모리를 가지고 있으며, 맞춤설정이 필요하고, 끊임없이 새로운 상황에 직면합니다. 에이전트의 임무는 업무를 수행하면서 학습하는 것이며, 언제 기존 스킬을 사용하고 언제 즉석에서 새로운 스킬을 습득할지 판단하는 것입니다. 고객들은 업무를 수행하는 것만으로 스스로 발전하는 에이전트형 시뮬레이션과 자체 개선 에이전트에 큰 관심을 기울이고 있습니다.

또한 오픈 에이전트형 클라우드로의 명확한 움직임이 있습니다. Gemma를 중심으로 오픈소스의 모멘텀이 구축되고 있습니다. 인프라는 이미 마련되어 있습니다. 에이전트를 빌드하고 규제하기 위한 ADK, 에이전트가 서로 통신할 수 있도록 하는 A2A가 바로 그것입니다. 고객들은 빌드에 활용할 수 있는 최첨단 기술은 물론, 이를 어디서 어떻게 실행할지 선택할 수 있는 개방성을 확보할 수 있습니다. 고객들은 관리형 서비스의 강점과 오픈 표준의 유연성을 모두 누릴 수 있으며, 바로 이러한 조합을 원했다고 말합니다.

전보에서 전화기로의 전환이 첫 번째 단계였다면, 자체 개선 에이전트는 실시간으로 사고하고 적응할 수 있는 기능을 추가합니다. 이 모든 것을 오픈 에이전트형 클라우드에 빌드하면 그림이 완성됩니다. 이러한 에이전트가 학습하고 더 강력한 기능을 갖추게 되면 혁신은 폐쇄적인 환경이 아닌 커뮤니티와 함께합니다.

실물 세계로 나아가는 AI

실험실을 졸업하는 물리적 AI

Massimo Mascaro

물리적 AI가 실험실을 졸업하고 있습니다. 기업들은 실제 환경에서 추론과 일반화를 처리하기 위해 로봇 공학과 생성형 AI를 함께 도입하고 있습니다. 1년 전만 해도 프로덕션 환경에서 이러한 작업을 실행할 수 없었습니다.

Next에서 가장 확실한 근거는 WPP에서 나왔습니다. 이 광고 대행사는 고급 촬영을 위해 Boston Dynamics Spot 로봇을 사용했는데, 로봇의 복잡한 움직임은 전적으로 Google Cloud의 강화 학습과 NVIDIA Omniverse 시뮬레이션을 통해 훈련되었습니다. 새로운 G4 VM 인스턴스에서 실행된 이 학습은 10시간이 걸리던 이전과 달리 1시간 미만으로 단축되었습니다. 이 로봇들은 TPU 8 기조연설의 발표 동영상을 촬영하기도 했습니다.

이를 뒷받침하는 인프라 구조를 이해하는 것도 중요합니다. G4 인스턴스는 NVIDIA RTX PRO 6000 Blackwell GPU에서 구동되며, 팀이 필요하지 않은 전체 Blackwell 용량에 대한 비용을 지불하는 대신 더 가벼운 로봇 공학 또는 시뮬레이션 워크로드에 맞게 적절한 규모를 선택할 수 있도록 부분 구성을 도입했습니다. 이제 Google Cloud Marketplace에서 NVIDIA Isaac Sim 및 OpenUSD 라이브러리를 이용할 수 있으므로, 개발자는 실제 세계에서 움직임을 시작하기 전에 물리적으로 정확한 디지털 트윈을 빌드하고 로봇 정책을 검증할 수 있습니다.

GDM Robotics 쇼케이스는 Boston Dynamics, Franka Robotics, Enchanted Tools와의 파트너십을 통해 또 하나의 차원을 더했습니다. 이들 기술이 결합되어 로봇이 인간 및 도구와 더 자연스럽게 인식, 추론, 상호작용할 수 있는 기반 인텔리전스를 제공합니다. 또한 로봇 공학 및 디지털 트윈 애플리케이션을 빌드하는 개발자를 위한 전용 허브도 출시했습니다. 물리적 AI는 한동안 화제의 카테고리였습니다. Next 이후로는 본격적인 프로덕션 단계에 접어든 것으로 보입니다.

컨텍스트 격차 해소

데이터와 인텔리전스를 한곳에

Sarah Gerweck

에이전트와 클라우드 기능이 데이터와 인텔리전스를 결합하는 획기적인 전환점을 맞이하고 있습니다. 에이전트가 할 수 있는 일과 비즈니스에서 실제로 에이전트를 활용할 수 있는 일 사이의 격차가 줄어들고 있습니다.

Next에서 발표된 몇 가지 개발 사례가 이를 명확히 보여주었습니다.

맞춤형 환경: Gemini Enterprise와 에이전트 메모리 뱅크는 에이전트가 매번 처음부터 시작하는 대신 여러 작업을 넘나들며 동적 컨텍스트를 유지할 수 있도록 합니다.

통합 데이터 액세스: 교차 클라우드 Lakehouse, 에이전트 간 연결, 증가하는 커넥터 세트를 통해 데이터가 꼭 한곳에만 있지 않아도 유용하게 활용할 수 있습니다.

이해력 향상: Knowledge Catalog와 대화형 분석은 인간과 AI 모두가 데이터를 해석할 수 있도록 만들어 줍니다. 이는 '데이터를 보유하고 있다'와 '에이전트가 데이터를 사용할 수 있다' 사이의 간극이 실질적인 병목 현상을 초래했기 때문에 중요한 부분입니다.

다음 단계는 시스템에 쿼리하는 것이 아니라 지식이 풍부한 동료와 함께 일하는 것처럼 느껴지도록 심층적인 개인별 컨텍스트, 정교한 데이터 액세스, AI 기반 인사이트를 결합한 직관적 인터페이스를 갖춘 소프트웨어입니다.

주제 간의 연결점

이 주제들을 종합해 보면 동일한 질문이 다양한 형태로 계속 떠오릅니다. 그래서 에이전트를 프로덕션 기술로 어떻게 진지하게 받아들일 수 있을까요? 거버넌스, 보안, 지속적인 학습, 조직 경계를 안팎으로 넘나드는 에이전트 간 커뮤니케이션, 오픈소스의 역할, 물리적 구현, 데이터 기반 등 다양한 답변이 있습니다. 이들 각각은 데모 이후에 수행해야 하는 작업의 일부입니다.

Next '26은 이러한 변화를 구체적으로 보여드렸습니다. 에이전트 기반 기업은 더 이상 로드맵이 아닙니다. 이제 남은 것은 운영에 관한 질문들입니다.