챗봇을 넘어서: 고객 성공을 이끄는 내부 AI 시스템 구축

* 본 아티클의 원문은 2025년09월 19일 Google Cloud 블로그(영문)에 게재되었습니다

CEO에게 AI 전략에 대해 물어보면 챗봇, 추천 엔진, 자동화된 고객 서비스에 대해 이야기할 것입니다. 하지만 이러한 화려한 프로젝트를 실제로 작동시키는, 보이지 않는 AI 시스템에 대해서는 들을 수 없습니다.

Google은 독보적인 관점으로 조직의 AI 도입 방식을 파악합니다. 수많은 고객과의 대화를 통해 명확한 패턴을 발견했습니다. 가장 성공적인 비즈니스는 외부 AI와 내부 AI라는 두 가지 유형의 AI에 투자하고 있습니다.

화려하고 주목을 끄는 이니셔티브가 스포트라이트와 자금을 받는 경우가 많지만, 장기적인 성공은 먼저 내부 운영의 기반 레이어를 마스터하는 데 달려 있다는 것을 알 수 있습니다.

눈에 보이는 레이어: 외부용 AI

외부 AI는 고객 경험과 참여를 개선하는 데 중점을 두어 수익에 직접적인 영향을 미칩니다. 예를 들면 다음과 같습니다.

• 고객 서비스 최적화: Verizon은 Google Cloud와 협력하여 Gemini 기반 AI를 고객 서비스 운영에 통합하여 매출을 40% 늘리고 고객 문의에 대한 답변율을 95%로 높였습니다. 2024년 7월에 배포하고 1월까지 확장한 이후 이 솔루션으로 고객 상호작용과 해결 시간을 모두 개선했습니다.

• 제품에 AI 임베딩: Adobe는 Gemini 2.5 Flash Image를 Firefly 및 Adobe Express에 통합하여 소셜 크리에이터가 일관된 스타일로 그래픽을 생성하고, 마케터가 형식에 따라 시각적 요소를 조정하며, 디자이너가 컨셉의 프로토타입을 빠르게 제작할 수 있도록 지원합니다. 

• 새로운 비즈니스 모델: 미디어 회사의 경우 생성형 AI를 사용하여 새로운 짧은 형식의 동영상 콘텐츠를 제작함으로써 이전에는 비용이 너무 많이 들거나 시간이 오래 걸려 탐색하기 어려웠던, 완전히 새로운 수익 창출 기능을 살펴볼 수 있습니다.

이러한 프로젝트는 일반적으로 핵심 제품팀이 주도하고 자금을 지원하며 공식 개발 및 엔지니어링 리소스를 통해 구현됩니다. 눈에 띄고 흥미로운 이러한 애플리케이션은 회사의 시장 진출 방식을 바꿉니다.

기반이 되는 레이어: 조직의 AI 능숙도

외부 AI가 눈에 보이는 구조라면 내부 AI는 조직의 AI를 능숙하게 사용할 수 있도록 구축하고 모든 기능에서 모든 직원을 지원합니다. 이 카테고리에서는 사람들이 일상 업무에서 AI를 사용하여 생산성, 창의성, 업무 만족도를 높이는 방법을 중점적으로 다룹니다. AI를 두려워할 대상이 아닌, 가치 있고 접근 가능한 도구로 만드는 방법을 살펴봅니다. 1년 전만 해도 많은 기업은 이를 주요 관심사로 삼았습니다. 오늘날 경영진의 관심과 자금은 고객 참여를 유도하는 외부 AI 이니셔티브로 옮겨가고 있습니다.

이러한 변화로 인해 직원 생산성 도구는 중앙 IT 부서와 개별 비즈니스 부서의 책임인 경우가 많습니다. 이 기술은 일반적으로 사용자당 라이선스가 부여되며, 기업은 팀에 적합한 도구 조합을 찾기 위해 혼잡한 시장을 탐색하고 있습니다. 이 분야의 사용자는 처음부터 개발해야 하는 대규모 프로젝트를 찾고 있는 것이 아니라, 기존 솔루션을 활용하면서 정말 필요한 경우에만 맞춤설정에 투자하기를 원합니다.

이러한 기반을 구축하는 것은 겉으로 보이는 것보다 더 복잡합니다. 라이선스를 구매하는 것뿐만 아니라 AI가 번성할 수 있는 생태계를 조성하는 것이 중요합니다. 성공을 위해서는 기반이 되는 세 가지 요소가 필요합니다.

능숙한 AI 활용을 위한 3가지 핵심 요소

1. 창의성과 혁신 문화: 효율성을 저해하는 가장 큰 장벽은 종종 두려움이나 낙인일 때가 많습니다. 변화에 직면했을 때 사람들은 명확한 정보가 주어지지 않으면 자연스럽게 최악의 상황을 가정합니다. AI의 경우 리더가 탐색을 적극적으로 지지해야 합니다. 직원들이 이메일 초안을 작성하거나 보고서를 요약하기 위해 Gemini를 사용하는 것을 숨길 필요가 없어야 합니다. 이러한 행동을 장려하고 논의하며 보상해야 합니다. 지식 업무의 성격이 변화하고 있으며, 모든 직원이 AI를 통해 자신의 역할을 어떻게 더 나은 방향으로 발전시킬 수 있는지 알아볼 수 있어야 합니다. 

2. 실험을 위한 적절한 도구: 직원들이 개인 생활에서 사용하는 AI 도구와 직장에서 사용할 수 있는 제한된 도구 세트 사이의 격차가 점점 커지고 있습니다. 금융 서비스 및 의료와 같은 규제 대상 업종에서는 이러한 문제가 특히 심각하며, 기본적으로 '사용할 수 없는' 경우가 많습니다.

이러한 상황은 바뀌어야 합니다. 중앙 IT의 역할은 보안, 개인 정보 보호, 거버넌스를 위해 도구를 철저히 검토한 다음 광범위한 액세스를 제공하는 것입니다. 기술이 너무나 빠르게 진화하고 있어 중앙 위원회에서 모든 가치 있는 사용 사례를 예측하는 것이 불가능합니다. 적합한 도구를 찾는 가장 좋은 방법은 직원, 즉 자신의 업무를 가장 잘 아는 사람이 직접 실험해 보는 것입니다. 사용자가 사용자를 위해 빌드하도록 하면 어떤 기능이 인기를 얻는지 빠르게 파악할 수 있습니다.

3. 기회 식별 및 개선 시스템: 탐색할 수 있는 문화와 도구를 팀에 제공하면 현장에서부터 혁신이 시작되는 것을 볼 수 있습니다. 영업팀이 통화 준비에 사용하는 스마트한 프롬프트 체인, 법무팀이 계약서를 검토하는 데 사용하는 간단한 워크플로, 인사팀이 감정을 이해하기 위해 빌드하는 데이터 분석 쿼리 등 수십 개 또는 수백 개의 '미니 애플리케이션'이 있을 수 있습니다.

어떤 미니 애플리케이션은 다른 것보다 더 많은 관심을 받을 수 있습니다. IT 및 비즈니스 리더의 역할은 이러한 현장의 성공 사례를 파악하고 확장할 기회를 제공하는 것입니다. 이러한 혁신은 매우 귀중합니다. 더 크고 공식적인 플랫폼 변경사항의 설계에 반영되어야 하는 직접적인 사용자 검증 피드백을 제공하기 때문입니다. 이를 통해 엔터프라이즈급 개발이 실제 요구사항과 연결되어 오늘날 직원들의 높은 기대치를 충족할 수 있습니다.

Google에서 내부 AI 활용을 능숙하게 만드는 방법

Google은 말하는 대로 행동합니다. Google 내부에서는 고객이 AI를 도입하는 것과 동일한 패턴으로 AI를 도입합니다. Google에는 Google 검색, Google Cloud 및 기타 제품에 차세대 AI를 빌드하는 데 전념하는 대규모 외부 AI팀이 있지만, Google 자체 팀을 위한 내부 AI에도 똑같이 집중하고 있습니다.

일상 업무에 AI 도구를 사용하는 것이 당연한 문화가 조성되어 있습니다. Google 직원들은 코드 디버깅, 문서 작성, 긴 이메일 대화목록 요약, 프로젝트 계획 초안 작성 등 모든 작업에 Gemini와 같은 Google의 자체 도구를 사용하도록 권장됩니다.

다음은 Google Workspace, Gemini 2.5 Pro 및 Canvas, Google Sites, Appscript를 사용하여 빌드한 몇 가지 기반 도구의 예입니다. 주로 슬라이드와 시트로 작업하는 비개발자가 만들었습니다. 

• AI 사용 사례 생성기: 고객에게 바로 제공할 수 있는 슬라이드와 자세한 첨부 문서를 생성합니다. 이 도구는 주요 AI 사용 사례를 식별할 뿐만 아니라 복잡성에 따라 즉각적인 범주와 전략적 범주로 분류합니다. 단 2명이 밤과 주말을 활용해 4주 만에 아이디어 구상부터 출시까지 완료했습니다. 출시 이후 2개월 동안 5,000회 이상 생성했습니다.
• 프롬프트 갤러리: 생성형 AI는 강력하지만 양질의 프롬프트를 작성하는 데 시간이 오래 걸릴 수 있습니다. 팀에서 가장 자주 사용하는 프롬프트인 회사 조사, 아이디어 구상, 경영진 포지셔닝, 고객 영업 계획을 포함한 라이브러리를 만들었으며, 재무 모델링 작업을 사용한 한계 테스트도 포함되어 있습니다. 동료들은 종종 내부 작동 방식을 이해하고 싶어 하므로, 직접 프롬프트를 사용하고 수정할 수도 있습니다. 
• AI 비용 계산기: AI 도구가 확산됨에 따라 AI 애플리케이션의 개발 및 배포 비용이 더욱 복잡해지고 있습니다. 이전에는 팀에서 스프레드시트로 이 모든 것을 관리했습니다. 이후 가장 복잡한 계산기 중 일부를 Gemini 2.5 Pro Canvas를 사용한 웹 앱으로 이전했습니다. 워크플로가 훨씬 더 직관적이고 인터페이스도 스프레드시트를 보는 것보다 훨씬 나아졌습니다. 

이러한 광범위한 내부 액세스는 대규모의 실제 실험실 역할을 합니다. 특정 팀이 고유한 문제를 해결하기 위해 프롬프트를 작성하는 방법을 확인할 수 있습니다. 예를 들어 마케팅팀은 특정 지역에 맞게 최적화되고 브랜드에 완벽하게 부합하는 제품 설명을 생성하는 Gemini용 프롬프트를 개발할 수 있습니다. 내부적으로 사용 패턴이 증가하면 내부 도구 또는 향후 Google Cloud 제품의 기능으로 제품화할 후보가 됩니다. Google Cloud는 내부 사용자와 제품팀 간의 지속적인 피드백 루프를 통해 공허한 일이 아니라 Google Cloud의 문제를 먼저 다루면서 실제 문제를 해결하고 있습니다.

AI의 성공은 단 하나의 획기적인 프로젝트로 이루어지는 것이 아닙니다. 먼저 강력한 기반을 구축한 다음 해당 인프라를 사용하여 고객을 향한 혁신을 추진하는 조직에게 가능한 일입니다. 내부 AI와 외부 AI라는 두 가지 레이어를 모두 마스터하는 기업이 AI 투자를 지속적인 경쟁 우위로 전환할 수 있습니다.