The Prompt: 생성형 AI 도입을 단순화해야 하는 이유

* 본 아티클의 원문은 2023년 6월 17일 Google Cloud 블로그(영문)에 게재되었습니다.

비즈니스 리더들 사이에서 생성형 AI가 큰 관심을 모으고 있습니다. 매주 'The Prompt'는 빠르게 변화하는 이 주제에 대한 최신 정보를 놓치지 않도록 고객 및 파트너와 협업하면서 확인된 사항과 Google의 최신 AI 트렌드를 전해드립니다. 이번 호에서는 Google Cloud의 AI 및 비즈니스 솔루션 부문 글로벌 부사장인 필립 모이어와 Google Cloud 전략 산업 부문 부사장인 캐리 타프가 생성형 AI를 도입할 때 단순한 사용 사례가 효과적인 이유를 설명합니다. 

Google Cloud는 지난달에 개최된 Google I/O와 지난주에 열린 경영진 포럼은 물론 그 사이에 진행된 다양한 이벤트를 통해 생성형 AI 제품을 연이어 선보이면서 고객들과 지속적으로 소통할 기회가 있었습니다. 

고객들과 많은 대화를 나누는 과정에서 지난 한 달간 경영진의 태도에서 눈에 띄는 변화가 감지되었습니다. 올해 초만 하더라도 대다수가 기술의 잠재력과 발전 속도에 대해 놀라워하는 데 그쳤습니다. 하지만 이제는 프로덕션에 신속하게 배포할 수 있는 사용 사례를 파악하는 데 대화의 주제가 집중됩니다.

이미 머신러닝과 데이터 과학 분야에서 경험이 풍부한 외부 조직에서는 대부분의 경영진이 다음과 같은 간단한 프로젝트에 집중하고 있습니다. 

• 셀프 서비스 고객 서비스 및 제품 탐색을 위한 챗봇 및 디지털 경험 구축
• 마케팅 콘텐츠 생성
• 차세대 엔터프라이즈 검색부터 RFI와 RFP 같은 일반적인 문서의 생성 및 검토를 위한 파이프라인에 이르는 내부 데이터 관리 개선 촉진
• 계정 기반 마케팅 및 기타 B2B 사용 사례를 위한 맞춤형 콘텐츠 생성

모든 사례가 포함된 목록은 아니지만 많은 리더들이 과장되고 미래 지향적인 야심 찬 계획에 사로잡히기보다는 빠르게 빌드하여 프로덕션에 배포할 수 있는 가치 있고 위험이 낮은 솔루션에 우선순위를 두고 있다는 사실을 분명히 알 수 있습니다. 

이러한 전략은 훌륭한 접근 방식으로 판단됩니다.

물론 야심 찬 계획도 중요합니다. 하지만 AI 애플리케이션과 관련해 불가능한 목표를 좇는 사람들이 그 어느 때보다 많습니다. 모든 대규모 조직은 로드맵과 관련하여 일련의 대규모 투자 계획을 세워야 합니다. 일부 스타트업에게는 야심 찬 계획이 유일한 전략일 수도 있습니다. 

그렇지만 소셜 미디어에서 AI 트렌드를 파악해 왔다면 '생성형 AI가 생산성을 10배 높여줄 것이니 뒤처지지 마세요!'라고 주장하는 많은 인플루언서들을 마주쳤을 것입니다. 이처럼 과장된 표현은 조직에서 현실적인 목표를 세우는 데 방해가 됩니다. 무엇보다, 대규모 투자를 할 때는 쓸데없는 시간 낭비 대신 실질적인 변화를 일으킬 수 있는 실현 가능하고 실용적인 사용 사례가 뒷받침되어야 하기 때문입니다. 

예를 들어 대다수의 조직은 단기적으로 코드 완성 또는 텍스트-코드 변환과 같은 일반적인 생성형 AI 사용을 통해 10배가 아닌 10% 정도의 효율성 개선을 목표로 삼을 것입니다. 이 AI 기술이 아직 초기 단계라는 점에서 더 큰 이득을 얻을 수도 있겠지만 모든 혁신적 기술과 마찬가지로 조직에는 기술을 실행하기에 앞서 적응할 시간이 필요합니다. 난무하는 과장된 표현을 기준 삼아 목표를 측정하기보다는 사용을 시작하여 기술을 익히는 것이 도움이 됩니다. 

다행스럽게도 현재 고객들이 보이는 직접적인 관심은 몇 달 전 The Prompt 시리즈 두 번째 호에서 제안한 조언이 반영된 결과입니다. 해당 호에서는 조직이 셀프 서비스 챗봇 등 고객을 지원하는 방식, 엔터프라이즈 검색 기술과 생성형 AI를 결합한 앱과 같이 내부 데이터의 유용성을 더욱 높여주는 앱, 동일한 마케팅 메시지의 반복 생성 또는 RFP 작성과 처리의 가속화 등 단조로운 운영 업무 부담을 완화하는 사용 사례에 집중해야 한다고 제안한 바 있습니다. 

이에 더해 고객 대상 사용 사례가 아닌 내부 사용 사례로 시작하는 것이 생산적일 수 있다는 조언을 덧붙이고자 합니다. 예를 들어 조직에서 엔터프라이즈 검색 시나리오를 위한 생성형 기반 모델을 관리하는 데 익숙해지면 공개 앱과 웹사이트용 모델을 활용하는 데 필요한 기술과 확신도 생깁니다. 

요구사항과 성숙도 수준의 범위가 포괄적인 것에서 알 수 있듯 조직에는 생성형 AI 도입을 위한 다양한 진입점이 필요하며, Google Cloud에서는 바로 이러한 점을 반영하여 플랫폼을 구축했습니다. Google Workspace 등의 제품은 일반적인 워크플로에 AI를 결합합니다. 생성형 AI 앱 빌더는 검색엔진과 챗봇 같은 일반적인 생성형 앱을 빌드하는 복잡성을 추상화하므로 조직에서 업무를 빠르게 진행할 수 있습니다. Vertex AI의 생성형 AI 지원은 커스텀 생성형 앱의 프로덕션을 위한 기반 모델의 액세스, 맞춤설정, 관리를 지원하는 더 많은 고급 도구를 제공합니다. 다양한 인프라 옵션과 파트너가 서로 다른 요구사항에 맞춰 제품을 보다 세부적으로 조정할 수 있도록 지원합니다. 지난주에 설명했듯 이러한 기능들은 조직에서 초기 프로젝트를 진행하는 것뿐만 아니라 시간이 지나면서 옵션을 늘리고 유지관리할 수 있는 방법까지 제공하는 프레임워크를 구성합니다. 

단순한 사용 사례를 목표로 삼는 것은 훌륭한 시작 방법입니다. 단순한 사용 사례로도 분명하고 측정 가능한 가치를 창출할 수 있으며, 조직에서 앞으로 몇 개월 또는 몇 년 내에 더 혁신적이고 놀라운 애플리케이션의 제작을 추진할 수 있는 기반을 마련하기 때문입니다. Google 제품의 작동 방식을 살펴보려면 다음과 같은 새 동영상을 시청하세요.