생성형 AI의 성공 실현: 모든 경영진이 유의해야 할 5가지 함정

* 본 아티클의 원문은 2024년 11월 15일 Google Cloud 블로그(영문)에 게재되었습니다.

생성형 AI 혁명이 폭발적으로 일어나고 있습니다. 이사회부터 주식 시장에 이르기까지 모든 분야를 혁신하고 있습니다. Google Cloud의 최근 연구인 생성형 AI의 ROI에 따르면 '생성형 AI를 사용하는 기업의 74%가 도입 첫해부터 ROI를 실현하기 시작했고, 그중 86%는 매출이 6% 이상 증가했다고 보고'했습니다. 상당히 큰 수치입니다. 그러나 많은 조직이 생성형 AI 목표로 가시적인 성과를 내는 데 어려움을 겪고 있으며, 어쩌면 여러분도 그러한 상황일지 모르겠습니다. 왜 그럴까요?

저는 Google Cloud에서 생성형 AI 기반 솔루션을 오랜 기간 혁신하고 조기에 구현해 왔습니다. 여러 고객과 협력하여 Gemini 기반 솔루션을 빌드하고 이를 위해 조직의 혁신을 지원해 왔습니다. 하지만 몇 가지 함정이 있음을 경험했고 때로는 이러한 함정에 반복적으로 빠지기도 했습니다. 그래서 미래의 훌륭한 아이디어가 빛도 보기 전에 사라지는 것을 막고 싶습니다.

이 블로그에서는 제가 경험하고 본 몇 가지 일반적인 함정에 대해 공유하고자 합니다. 함정을 하나씩 소개하면서 우선순위 지정, 포트폴리오 관리, 잠재적인 문제와 위험 측정, 대규모 프로덕션 생성, 급변하는 환경에서 이를 수행하는 것과 관련하여 Google Cloud 컨설팅의 권장사항을 바탕으로 함정을 극복하는 방법을 안내해 드리겠습니다.

좀 더 자세히 살펴보겠습니다.

1. 우선순위 지정의 역설: 아이디어는 너무 많은데 시간이 턱없이 부족

잠재적 생성형 AI 애플리케이션의 양은 가장 숙련된 전문가조차도 놀랄 만큼 방대합니다. (참고: 세계 주요 조직의 생성형 AI 실제 사용 사례 185가지)

예시: 생성형 AI의 잠재력에 매료되어 있는 선도적인 한 산업 유통업체가 있습니다. 맞춤형 고객 경험, 최적화된 인벤토리 관리, 소프트웨어 개발 등 전방위적으로 혁신하는 미래를 구상했습니다. 하지만 가능성이 무한했음에도 이 유통업체의 리소스는 한정되어 있었습니다. 그리고 모든 가능성 때문에 이러한 한정된 리소스로는 우선순위를 정하기도, 기업의 가치를 위한 의미 있는 진전을 이루는 데 집중하기도 어려웠습니다.

해결책: 가장 유망한 아이디어를 전략적으로 찾아내고 아이디어를 영향력 있는 생성형 AI 이니셔티브로 전환하기 위해 실행에 집중하는 조직, 문화, 프로세스를 설계합니다. (참고: 효과적인 AI 전략을 구축하는 방법) 이를 통해 지원할 수 있는 내용은 다음과 같습니다.

• 전략적 고려사항: 생성형 AI의 기능으로 기존 프로세스를 최적화하는 것뿐만 아니라 이 혁신 기술이 지닌 힘을 활용해 완전히 재창조하는 것을 고려합니다.
• 포괄적 우선순위 지정: 데이터, 보안, 윤리적 고려사항을 아우르는 더 복잡하고 다차원적인 평가가 필요합니다.
• 생성형 AI의 영향 평가: 단순히 옳고 그름을 넘어 표현 능력과 잠재적인 편향을 고려하는 세밀한 평가가 필요합니다.

2. POC 단계: 개념 증명의 함정에 빠지지 않기

생성형 AI를 사용하면 인상적인 개념 증명(POC)을 쉽게 빌드할 수 있습니다. 하지만 대규모 프로덕션으로 전환하는 과정에서 많은 회사가 어려움을 겪습니다.

예시: 생성형 AI 챗봇으로 고객 지원을 혁신하는 것을 목표로 삼은 한 소매업체가 있습니다. POC는 기술적으로 성공적이었으며, 상담사가 답변을 찾는 데 도움이 되었습니다. 그러나 POC를 확장하면서 간과하고 있던 법적 문제가 드러났습니다. 기술 자료를 위한 제품 매뉴얼과 기술 가이드는 공개적으로 사용할 수는 있지만 추가적인 법적 검토가 필요했습니다. 이러한 문제(예: 윤리적 고려사항, 편향, 개인 정보 보호, 보안, 적법성)는 생성형 AI 프로젝트에서 수없이 발생하며, 신중하게 계획하지 않으면 성공을 크게 저해할 수 있습니다. 생성형 AI 개념 증명에는 성공할 수 있지만 기술 자체를 넘어서는 복잡한 문제를 가릴 수도 있습니다.

해결책: 생성형 AI를 확장하려면 기술적 전문성만으로는 부족할 수 있다는 점을 인식합니다. 다음 사항을 고려하세요.

• 팀 간 협업: 생성형 AI는 기술팀을 넘어 더 높은 수준의 참여가 필요합니다. 유망한 사용 사례에는 모든 외부 이해관계자를 식별하고 이들의 참여를 유도할 수 있는 계획이 필요합니다.
• 법적 및 윤리적 영향 해결: 법률 및 기업 가치에 맞춰 명확한 가이드라인을 선제적으로 수립합니다. 효율적인 사용 사례 검토를 위한 프로세스를 개발합니다. (참고: 책임감 있는 AI에 대한 Google Cloud의 관점)
• 역량 강화 및 변경 관리: 생성형 AI가 각 직원의 역할에 미치는 영향에 대비하여 직원들을 준비시킵니다.

3. 무한한 가능성, 무한한 위험: 예측 불가능한 상황 대비하기

Gemini와 같은 생성형 AI 모델은 강력하지만, 할루시네이션 등 예기치 않은 부적절한 결과가 나올 수도 있습니다.

예시: 여행객에게 아이디어를 제공하고 항공편 예약을 돕도록 설계된 한 생성형 AI 여행 어시스턴트가 테스트 도중 '달로 가는 항공편'을 확정하는 바람에 개발자가 당황하는 일이 있었습니다. 이러한 예시는 당연히 불가능하지만, 실수를 확실하게 인지하지 못하고 있다가 승객이 비행기에 탑승하려고 하는 순간에 문제가 발견된다면 회사에 어떤 영향을 미칠지 상상해 보세요.

해결책: 위험 관리에 대한 선제적인 접근방식을 도입합니다.

• 예상치 못한 결과에 대비: 생성형 AI가 여러분을 당황하게 할 수 있습니다. 예상치 못한 상황에 대비하세요.
• 위험 파악 및 완화: 잠재적인 보안, 윤리, 법적 문제를 파악하세요.
• 강력한 테스트 및 모니터링 구현: 생성형 AI 중심 테스트 접근 방식을 개발하고 생성형 AI 솔루션을 지속적으로 평가하며 개선하세요.

4. 점점 더 빨라지는 변화의 속도: 선도적인 위치 유지하기

생성형 AI 환경은 빠르게 진화하고 있으며 (참고: 지금까지 AI의 가장 중요한 순간 10가지), 새로운 기술과 권장사항이 끊임없이 등장하고 있습니다.

예시: 이전 작업에서는 여러 데이터 소스를 통합해 Gemini에서 액세스할 수 있도록 하는 데 어려움이 있었습니다. Google은 몇 주 동안 기술적 과제를 두고 씨름한 끝에 데이터 통합과 관련된 많은 문제를 해결하는 함수 호출이라는 새로운 Gemini 도구를 출시했습니다. 긍정적이기는 하지만, 허사가 된 노력을 만회하고 급속한 발전에 놀란 이해관계자의 기대치를 관리한다는 의미이기도 했습니다.

해결책: 민첩성과 복원력을 갖추고 학습을 계속합니다.

• 지속적인 학습 문화 육성: 새로운 도구, 기술, 연구에 뒤처지지 않도록 하세요.
• 실험과 반복적인 개발 수용: 기술 발전에 적응할 수 있도록 준비합니다. (참고: 문화를 통한 성공: 실패를 포용하는 것이 더 나은 소프트웨어 배포에 중요한 이유)
• 목표 정의: 가치 제안이 바뀌지 않는 한, 새로운 기술 기능의 매력에 끌려 추구하는 목표에서 벗어나는 일이 없도록 하세요.

5. 데이터의 중요성: 자체 애셋 활용하기

생성형 AI는 조직의 독점 데이터 및 인사이트와 결합할 때 진정한 힘을 발휘합니다.

예시: 당사는 맞춤형 제품 추천을 통해 고객 경험을 재정의하기 위해 노력했습니다. (참고: Vertex AI Search) 처음에는 사전 빌드된 생성형 AI 모델을 브랜드의 목소리에 맞게 조정하는 데 집중했으며, 이 과정에서 Gemini의 선행 학습된 지식과 사용자 입력에 크게 의존했습니다. 사용자 테스트에서 많은 사용자가 외부 도구를 직접 사용하는 편이 낫다는 의견을 제시했습니다. 이를 통해 고유한 무언가를 제공해야 한다는 점, 또한 이는 종종 독점 데이터와 서비스의 형태를 취한다는 점을 알게 되었습니다. 이에 따라 당사에서만 액세스할 수 있는 사용자별 데이터를 통합하기 시작했습니다. 이렇게 해서 고도로 맞춤화된 추천을 만들어, 고객이 스스로 무엇을 원하는지 미처 파악하지 못하고 있을 수 있는 제품을 고객의 과거 행동, 선호도, 고유한 니즈에 기반해 표시할 수 있게 되었습니다. 이처럼 경험을 차별화하는 것은 바로 독점 데이터였습니다.

해결책:

• 고유한 데이터 애셋 식별: 경쟁 우위를 제공하는 독점 데이터는 무엇인가요?
• 생성형 AI와 데이터 통합: 데이터를 사용하여 구체적인 사용 사례에 맞게 모델을 학습하고 세부 조정합니다.
• 고유한 가치 창출에 집중: 데이터를 활용하여 차별화된 맞춤형 경험을 제공하는 솔루션을 개발합니다.

AI 중심의 기업으로서 Google은 복잡한 조직 내에서 AI 모델을 실행하고 고객의 성공을 지원하는 방법을 알고 있습니다. 수년간 내부적으로뿐만 아니라 많은 고객과 함께하면서 경험을 통해 배운 노하우가 있습니다. Google Cloud 컨설팅의 일원으로서 저는 다양한 업종의 고객과 협력하면서 다음과 같은 방법으로 생성형 AI의 잠재력을 실현하기 위해 노력하고 있습니다.

• 기술 발전을 핵심 비즈니스 목표와 연계하여 포괄적인 생성형 AI 혁신 전략을 개발합니다.
• 기존 프로세스에 대한 타겟팅된 개선부터 완전히 새로운 제품에 이르기까지 생성형 AI 프로토타입과 솔루션을 설계하고 빌드하여, 다양한 비즈니스 애플리케이션 전반에서 생성형 AI의 실질적인 가치를 입증합니다.
• 새로운 운영 모델 개발, 역량 강화 이니셔티브, 거버넌스 프레임워크 등 생성형 AI의 성공적인 도입과 확장을 위한 조직 차원의 혁신을 지원하여 책임감 있고 효과적인 AI 통합을 보장합니다.

생성형 AI가 지닌 혁신적인 잠재력이 앞으로 어떻게 펼쳐질지 무척 기대됩니다. 예를 들어, Best Buy가 문제를 최대 90초 더 빨리 해결하는 방법 또는 Alaska Airlines가 여행 경험을 개선하는 방법을 살펴보세요. 저는 어떻게 훌륭한 아이디어가 불필요하게 함정에 빠질 수 있는지를 직접 확인해 온 만큼, 고객이 그러한 함정에 빠지지 않도록 하는 데 앞으로도 최선을 다하겠습니다.

비즈니스에 생성형 AI의 강력한 기능을 활용할 준비가 되셨나요? Google Cloud팀과의 협력을 통해 혁신과 기술 리더십을 모두 활용하여 야심 찬 목표를 실현하세요. Google Cloud는 AI 여정을 지원하는 다양한 서비스를 제공합니다. 여기에서 자세히 알아보세요.