The Prompt: 확률, 데이터, 생성형 AI 사고방식

*본 아티클의 원문은 2023년 10월 26일 Google Cloud 블로그(영문)에 게재되었습니다.

비즈니스 리더들 사이에서 생성형 AI가 큰 관심을 모으고 있습니다. 'The Prompt'는 빠르게 변화하는 이 주제에 대한 최신 정보를 놓치지 않도록 고객 및 파트너와 계속 협업하면서 확인한 사항과 Google의 최신 AI 트렌드를 전해드립니다. 이번 호에서는 Google Cloud의 AI 및 비즈니스 솔루션 부문 글로벌 부사장 필립 모이어의 설명을 통해 리더가 살펴봐야 할 세 가지 사고방식 전환에 관해 알아봅니다.

생성형 AI는 지금까지 컴퓨터 공학 분야에서 만들어 낸 기술 중 가장 접근하기 쉽고 유연한 기술이지만, 그렇다고 기업에서 커스텀 생성형 앱을 추구하는 방식이 뻔히 정해져 있다는 의미는 아닙니다.

생성형 AI의 차별성과 기대하는 점에 대해 물어보면 대부분의 기업 리더는 다음과 같은 점을 이야기합니다. '사용자의 간단한 자연어 지시에도 사람처럼 유창한 수준의 언어로 대응해 더 이상 복잡한 소프트웨어 인터페이스가 아닌 직관적인 상호작용과 채팅으로 환경을 바꾸는 것이 생성형 AI이다.' 놀라운 점은 이러한 혁신이 그저 공상 속의 아이디어로 그치지 않고 실제로 우리 눈앞에서 실현되고 있다는 사실입니다.

생성형 AI는 기술과 모델 품질의 향상에 따라 놀랄 만큼 인간 수준의 언어 출력을 제공할 수 있게 되었습니다. 그럼에도 불구하고 생성형 AI를 뒷받침하는 기반 모델은 스스로의 존재를 사고하지 못하는 컴퓨터임을 잊지 말아야 합니다. 생성형 AI가 작동하는 방식이 표면적으로는 인간과 비슷해 보일지 몰라도 결국 통계적인 추론에 확고한 뿌리를 두고 있으며, 사람이 원하는 것을 예측할 수는 있어도 인간의 관점에서 사고할 수는 없습니다.

즉, 생성형 AI의 기능을 최대한으로 활용하려면 리더는 모델이 실제로 수행하는 작업뿐 아니라 겉보기에 수행하는 것처럼 보이는 작업에 대해 인식할 필요가 있습니다. 이 게시물에서는 생성형 AI가 과거의 소프트웨어 패러다임과 어떻게 다른지, 이에 따라 경영진에게 요구되는 사고방식의 전환 세 가지는 무엇인지 자세히 살펴보겠습니다.

생성형 AI의 차별점

생성형 AI는 기존의 익숙한 소프트웨어 유형과는 다른 방식으로 작동하고 데이터를 활용하기 때문에 리더는 구현 가능한 사용 사례 또는 권장 사용 사례를 정의하는 몇 가지 윤곽을 이해해야 합니다.

생성형 AI와 다른 기술의 차이를 논하려면 데이터 과학은 물론, 어쩌면 철학까지도 세부적으로 파고들어야 할지 모릅니다. 가장 심층적인 논의까지 들어가면 경사하강법, 활성화 함수, 복합 전문 기술, '월드 모델(AI 에이전트가 주변 환경에 대해 학습하고 이해하는 데 사용하는 내부 모델)', 프롬프트 체인, 확장 법칙과 같은 복잡한 주제를 중점적으로 다뤄야 합니다. 기술적인 세부정보를 파고들면 길을 잃고 헤매기 십상이지만, 기업의 리더들이 알아야 할 핵심적인 차별점은 분명합니다. 즉, 기존 소프트웨어는 프로그래밍되는 반면에 생성형 AI는 학습, 조정, 강화, 프롬프트된다는 점입니다.

전자는 '우편번호 = 94015, 도시 = 샌프란시스코'를 인식하지만, 후자는 "일주일 동안 샌프란시스코의 엠바카데로 인근에서 아이들 세 명과 함께 머물 예정이야. 아이들은 모두 만 10세 미만이고 이 중 한 명은 매일 낮잠을 자야 해. 우리가 할 수 있는 재미있고 교육적인 활동을 추천해 줄래?”라는 질문에 가능한 답변을 추론한다는 차이가 있습니다. 전자가 두 정보 간의 1:1 정적 관계, 즉 if-then 동적 관계라면, 후자는 데이터와 맥락이 복잡하게 혼합된 상태에서 가능한 답변을 제공하므로 what-if 동적 관계에 더 가깝습니다.

사고방식 전환 첫 번째: 생성 모델은 확률 엔진이다.

위에서 말한 차이점을 자세히 살펴보겠습니다.

오늘날 앱 기능의 대부분은 특정 출력을 반환하는 규칙을 기반으로 하는 결정론적 속성을 띠고 있습니다. 제품 가격을 조회하거나 고객 정보를 확인해야 할 경우 앱은 함수를 사용해 데이터베이스를 호출하며 정확하고 반복 가능한 답변을 반환합니다.

이에 반해 생성형 AI를 구동하는 기반 모델은 확률론적인 속성을 지닙니다. 인간이 원하는 결과를 얻기 위해 조정할 수 있는 확률 엔진이라고 생각하면 쉽습니다. 기반 모델은 학습 및 조정 과정 중에 학습한 패턴을 사용하여 질문에 대한 가장 그럴듯한 답변, 이미지에 대한 정확한 설명 등 주어진 프롬프트에 대해 개연성이 가장 높은 출력이 무엇인지 계산해 냅니다. 기반 모델은 데이터베이스의 행과 열에 결정론적으로 얽매이지 않으므로 매우 강력한 효과를 발휘하며, 기존 소프트웨어로는 불가능한, 복잡하면서도 참신한 개방형 작업을 다양하게 수행할 수 있습니다. 그렇다고 해서 모든 작업에 적합하다는 뜻은 아닙니다.

가령 고객이 소매 분야의 생성형 앱과 상호작용한다고 가정해 보겠습니다. 한편으로는 모델의 확률론적 유연성을 통해 고도로 개인화되고 차별화된 경험을 제공할 수 있습니다. 제품 설명, 리뷰, 문서 등 소매업체가 제공한 독점 데이터에 맞게 모델을 조정하면 고객은 웹사이트를 탐색하지 않고도 유연하고도 일관된 대화를 통해 제품을 검색, 비교, 선택하고 보조적으로 활용할 수도 있습니다. 반면, 현재 재고 상태를 조회하는 일과 같은 상호작용은 어떨까요? 이런 종류의 결정론적이며 지속적으로 업데이트되는 정보를 모델이 자체적으로 제공하기란 불가능합니다. 이러한 접근 방식은 모델이 학습 과정에서 익힌 패턴을 기반으로 확률을 조합하여 예상 재고 값을 대충 뱉어내도록 유도할 뿐, 실제 재고 값을 추론할 가능성은 거의 없습니다.

모델 자체가 확률론적 속성을 지닌 만큼 실시간 데이터나 지속적으로 업데이트되는 데이터와 연결할 방도는 없습니다. 따라서 이러한 작업을 수행하려면 생성형 앱에서 모델과 다른 시스템 간의 상호작용이 이루어져야 합니다.

사고방식 전환 두 번째: 데이터가 확률 엔진을 형성하는 방식 정의

생성 모델을 다양한 데이터 소스 및 결정론적 기능과 결합함에 있어 대부분의 구체적인 작업은 개발자, 데이터 과학자, 제품 관리자를 비롯한 전문가가 담당하게 됩니다. 한편, 리더는 확률론적 프로세스와 결정론적 프로세스를 통해 다양한 방식으로 가치를 창출하는 원리를 이해함으로써 이러한 노력을 투입할 방향을 정하고, 기술 인재가 새로운 앱과 환경에 활용할 만한 데이터 소스가 무엇인지 파악해야 합니다.

예를 들어 스프레드시트를 면밀히 검토하거나 여러 소스의 정보를 취합하는 데 시간을 소비하는 직원이 얼마나 많은지 생각해 보세요. 이러한 작업 자체는 직원들의 업무가 아닙니다. 직원들은 자신의 업무를 수행하기 위해 정보를 추적하는 것뿐입니다. 대부분의 경우 직원이 AI 어시스턴트에게 필요한 정보를 모아달라고 요청하면 업무 수행을 준비하는 데 소모되는 시간을 절감하고 업무 수행 자체에 더 많은 시간을 할애하기가 훨씬 더 쉬워집니다.

고객에게 필요한 정보를 찾는 콜센터 상담사, 조사를 완료하고 보고서를 작성하려는 분석가, 브랜드의 톤과 스타일 지침이 구현되었는지 확인하려는 블로그 편집자 등 이 시나리오에 적합한 구체적인 잠재 사용 사례는 무궁무진합니다. 단, 데이터와 생성형 AI 간의 교차점을 파악하고 이에 따라 조치를 취하는 리더가 있어야 이러한 사용 사례를 달성할 수 있습니다.

조직들은 수년간 데이터를 수집하는 데 시간을 투자해 왔으며, 때로는 관리해야 할 데이터가 너무 많다고 불평하기도 했습니다. 그러나 생성형 AI를 사용하면 이제는 그럴 필요가 없습니다. 사실상 직원들이 모든 데이터와 대화를 나눌 수 있기 때문입니다. 즉, 데이터에 대해 질문하고, 이론을 제시하고, 실천 가능한 답변을 즉시 얻을 수 있습니다. 그런데 이러한 새로운 워크플로를 구현하려면 새로운 사고방식이 필요합니다.

앞서 규명한 바와 같이 대부분의 생성형 앱은 사용자 환경을 개인화된 상태로 원활하게 유지함과 동시에 상황에 따라 결정론적 출력과 확률론적 출력을 혼합하도록 설계되어야 합니다. 이와 같이 혼합하려면 기술 역량은 물론, 생성형 AI로 데이터를 어떻게 활성화할 것인지에 대한 경영진의 명확한 비전이 요구됩니다. 우수한 기반 모델은 갓 출시된 직후일지라도 여러 가지 상황에 맞게 주어진 프롬프트를 잘 처리하지만, 틈새 주제일수록 모델의 확률 신뢰도가 낮아지는 경향이 있습니다. 따라서 데이터 및 데이터 활용 방법을 신중하게 고려하지 않으면 부정확하거나 유용하지 않은 출력이 나올 수 있습니다.

초창기 데이터 리더십에 관한 일부 질문은 이러한 과제에서 출발했습니다. 사용 사례와 구체적으로 관련된 데이터를 사용하여 기반 모델을 세부 조정해야 할까요? 그렇다면 어떤 데이터로 조정해야 할까요? 아니면 모델 개선보다는 트랜잭션 및 실시간 정보를 처리할 수 있도록 다양한 결정론적 시스템으로 모델을 확장하는 데 중점을 두는 것이 최적의 앱일까요? 사용자 환경을 결정론적 프로세스에 연결하여 정의해야 하는 경우, 확률론적 모델 자체를 미세 조정하여 정의해야 하는 경우, 이 두 개념을 혼합하여 정의해야 하는 경우는 각각 언제일까요?

이러한 질문들은 개별 프로젝트는 물론 조직 전체에서 종합적인 데이터 전략이 왜 중요한지를 잘 보여줍니다. 경영진이 조직 전반의 모든 의사결정에 일일이 관여할 필요는 없지만, 프로젝트별로 리더가 데이터 및 AI 전반에 대한 전략을 명확히 정의했는지 여부에 따라 위와 같은 질문이 제기될 수 있습니다.

한 여행사가 고객이 본인의 예산 안에서 더 쉽고 빠르게 휴가 계획을 세울 수 있도록 지원하는 AI 어이스턴트를 출시하려고 한다고 가정해 보겠습니다. 사용자가 '해변', '박물관이 많은 곳' 등 구체적인 지역이나 일반적인 아이디어로 본인이 찾는 바를 설명합니다. 그러면 어시스턴트가 가능한 휴가 계획과 특가 옵션을 파악하고, 채팅을 통해 여러 지역에 관해 자세한 정보를 전달합니다. 그리고 지시가 주어지면 항공편이나 호텔을 원활하게 예약하고, 여행 일정을 짜고, 다양한 예약 작업을 수행합니다.

이론적으로 구현한 위 서비스는 질문에 대해 확률론적 답변을 생성하는 기반 모델은 물론, 예약 정보 등 실시간 정보의 트랜잭션 및 검색을 수행하기 위한 다양한 결정론적 시스템을 비롯한 변수들을 상당수 포함하고 있습니다. 여기에는 모델을 특정 데이터로 학습 또는 미세 조정하거나 임베딩이나 커넥터를 활용하여 모델을 다른 시스템으로 확장하는 등 다양한 기술이 적용될 수 있습니다. 하지만 기술적인 세부사항을 모두 차치하면, 앱의 잠재적 가치는 생성형 AI가 어떻게 새로운 방식으로 데이터의 가치를 실현할 수 있는지를 파악하는 데서 시작됩니다. 가령 앱이 생성형 AI를 사용하여 여러 항공사와 호텔 API의 예약 정보 및 목적지 데이터와 같이 다른 서비스에서 복제할 수 있는 정보를 단순히 패키징하기만 하나요? 아니면 특정한 세부정보와 관찰 결과를 포함해, 수년 동안 쌓인 여행 리뷰와 같이 여행사에서만 사용할 수 있는 고유한 데이터를 활용하나요?

리더는 데이터를 활용하기 위한 노력을 설계하여 생성형 AI를 통해 잠재적인 데이터 소스를 찾고 활용하는 방법, 생성형 앱으로 올바른 정보를 올바른 사람들에게 보다 효과적으로 제공하는 방법, 새로운 가치를 창출하는 방법을 파악해야 합니다.

사고방식 전환 세 번째: 기회에 따르는 책임

생성형 앱은 대부분의 이전 유형의 앱과는 데이터를 사용하는 방식도 작동 방식도 다른 만큼 새로운 책임이 수반됩니다. 앞서 이 개념에 대해 가볍게 언급한 바 있습니다. 모델의 바람직하지 않은 동작에 대비한 안전장치나 모델 정확도를 개선하는 여러 가지 방법이 여기에 해당합니다. 보안 및 개인 정보 보호 고려사항도 이에 못지않게 중요합니다.

그러나 그 어떤 고려사항보다도 훨씬 더 중요한 것은 책임감입니다. 혁신적인 기술은 많은 일을 더 효율적으로 처리할 수 있도록 하는 잠재력이 있지만, 기술의 진정한 가치는 이 기술을 통해 세상을 보다 나은 곳으로 만들 수 있는가에 달렸습니다.

바로 이 지점에서 새로운 기술을 통해 어떻게 정보와 상호작용을 형성하고, 직원의 업무 수행 방식을 개선하며, 고객과 기업이 상호작용하는 방식을 향상할 수 있는지를 정의할 때 리더의 역량이 빛을 발합니다. 모든 경영진이 책임감 있는 AI 원칙을 정의하기 위한 노력에 참여해야 합니다. 이 같은 노력은 리더를 통해서만 효과적으로 이끌어낼 수 있습니다.

생성형 AI에 대한 비전과 전략 수립

여러 측면에서 머신러닝이나 데이터 과학 경험이 없는 개발자도 그 어느 때보다 더 쉽게 정교한 AI 앱을 구축할 수 있게 되었습니다. 하지만 이는 원활한 전환이 아닙니다. 기업 리더들은 이 같은 전환이 즉시 대규모로 가능하다고 믿어선 안 됩니다.

생성형 AI로의 전환은 데스크톱에서 휴대기기로의 전환이나 키보드에서 터치 스크린으로의 전환보다도 훨씬 더 복잡하며 광범위한 영향을 끼칠 가능성이 있습니다. 새로운 환경으로 나아가려면 무엇이 바뀌었는지, 또한 이러한 변화에 필요한 사고방식이 무엇인지 반드시 파악해야 합니다.

도입부 이미지는 Google Cloud 기반 Midjourney에서 '확률 분포가 특정 결과로 변환됨'이라는 프롬프트를 사용하여 제작했습니다.