The Prompt: 모델뿐 아니라 AI 플랫폼에도 투자하기 + Google I/O 요약

* 본 아티클의 원문은 2023년 5월 13일 Google Cloud 블로그(영문)에 게재되었습니다.

비즈니스 리더들 사이에서 생성형 AI가 큰 관심을 모으고 있습니다. 매주 'The Prompt'는 빠르게 변화하는 이 주제에 대한 최신 정보를 놓치지 않도록 고객 및 파트너와의 협업을 통해 얻은 시각과 Google의 최신 AI 트렌드를 전해드립니다. 이번 호에서는 Google Cloud의 AI 및 비즈니스 솔루션 부문 글로벌 부사장인 필립 모이어가 Google I/O 2023을 돌아보고 조직에서 생성형 AI를 사용해 데이터를 결합할 수 있는 방법을 소개합니다. 

Google I/O 2023이 막을 내렸지만 아직도 뜨거운 열기가 느껴집니다. 주목할 만한 순간으로는 프로덕션의 최고급 모델이자 수십 개의 Google 제품을 구동하는 AI 엔진인 PaLM 2의 출시를 시작으로 기반 모델을 선보인 것을 들 수 있습니다. 또한 Vertex AI 액세스를 PaLM 2의 텍스트와 채팅 기능뿐만 아니라 이미지 생성, 코드 생성, 음성을 위한 새 기반 모델로 확장한 것도 큰 관심을 받았습니다.

이러한 모델들에 대한 뜨거운 관심이 확인된 만큼 이번 주에는 기업 데이터와 생성 모델의 결합을 주제로 다루고자 합니다. 대화를 나눴던 모든 경영진은 생성형 AI 모델에 놀라움을 표했지만 단순히 '놀라움'만으로 전사적인 채택에 나서기는 어렵기 때문에 신중한 입장을 취했습니다.

예를 들어 리더들은 생성형 AI 기반 모델의 출력이 사용 사례에 적합한 안정성과 정확성을 제공할지에 대해 깊이 우려하고 있습니다. '가끔 오류가 있어도 대체로 유용'하다고 해서 많은 경우의 시나리오에서 작동된다고 보기 어렵기 때문입니다.

또한 리더들은 대규모 조직이더라도 세밀한 맞춤설정이 가능한 데이터 과학자와 개발자의 수가 한정되어 있기 때문에 안정성을 보장하기 위한 방법을 쉽게 구현하거나 확장할 수 있을지에 대해 확신하지 못합니다. 경영진은 생성형 AI를 빠르게 활용할 방법을 궁금해 하지만 투자가 실패로 돌아가고 브랜드에 타격을 줄 수 있는 성장통에는 관심이 없습니다.

이러한 요구사항과 문제로 인해 조직이 생성형 AI 모델뿐만 아니라 모델을 사용하기 쉽게 만들어 주는 플랫폼에도 투자해야 한다는 사실을 깨닫는 리더가 점점 증가하고 있습니다. 

이 칼럼에서는 플랫폼 기능에 어떤 요소가 포함되어야 하며, 강력한 모델만으로는 기업에서 채택하기에 충분하지 않은 이유는 무엇인지 살펴보겠습니다. 엔터프라이즈 검색을 예로 들어 보면, 엔터프라이즈 검색은 다양한 업종의 경영진과 논의하는 가장 광범위하게 적용되는 압도적 사용 사례입니다. 

범위를 좁혀 정확도를 개선하세요

'The Prompt'의 이전 호에서 다루었듯이, 거의 모든 기업이 자체 데이터를 생성형 AI와 결합하여 직원들이 질문을 통해 본인의 업무와 관련된 모든 리소스에서 활용 가능하며 신뢰할 수 있는 답변을 얻게 되기를 바랍니다.

가능한 사용 사례는 무궁무진합니다. 연구원의 연구 자료 모음 조사, 매장 직원의 고객 지원, 여러 팀 간 협업, 모든 사용자에게 최신 정보 제공 등 기본적으로 사람들이 정보와 상호작용하는 모든 시나리오에 적용할 수 있습니다. 하지만 이를 구현하는 것은 그리 간단한 일이 아닙니다. 독점 데이터와 생성형 AI의 결합이 무엇을 의미하는지 살펴보겠습니다.

조직에서는 특수한 사용 사례에 맞게 추가 데이터를 미세 조정하여 기반 모델의 학습을 업데이트할 수 있습니다. Google에서 Med-PaLM 2 및 Sec-PaLM으로 수행한 작업처럼 이를 통해 특정 언어와 요구사항이 있는 도메인에 적합한 모델을 만들 수 있습니다.

그러나 이러한 접근 방식이 엔터프라이즈 검색에는 효과적이지 않습니다. 정보가 지나치게 자주 업데이트되며 이를 따라 가기 위한 재학습 작업이 복잡해지고 비용이 크게 증가합니다.

이렇듯 자주 변경되는 데이터의 경우 조직에서 모델이 고려하는 정보를 제한할 수 있습니다. 학습 데이터에서 답을 도출하도록 모델에 요청하는 대신 내부 저장소 또는 공개 데이터베이스와 같이 지속적으로 업데이트되는 특정 소스로 모델을 유도할 수 있습니다. 범위를 좁히고 모델의 초점을 노출된 모든 데이터가 아닌 특정 정보에 맞추면 조직에서 최신 데이터를 토대로 보다 정확한 응답을 얻을 수 있습니다. 

올바른 조회 방법을 사용해 최신 응답을 얻으세요 

안타깝게도 '모델에 초점을 맞추는' 많은 방법에 문제가 있습니다. 예를 들어 단순히 문서의 텍스트를 생성형 채팅에 붙여넣은 다음 질문을 하는 사용자들이 있습니다. 이 방법은 일회성으로는 괜찮을지 몰라도 확장이 불가능합니다. 긴 문서이거나 하나의 대규모 문서를 여러 프롬프트로 나눈 경우 모델에서 컨텍스트를 놓치게 됩니다.

조직에서 생성형 모델을 검색 API에 연결하여 올바른 데이터로 유도할 수 있지만 사용된 검색 기술에 따라 이러한 접근 방식도 효과가 제한될 수 있습니다. 예를 들어 키워드 기반 검색은 여러 소스에서 가장 명시적인 연결만을 찾기 때문에 보다 심층적인 유용한 정보를 찾거나 소스를 종합적으로 합성하는 모델의 기능이 제한됩니다.

더 나은 접근 방식은 키워드가 아닌 데이터 내의 다차원 관계를 살펴보는 시맨틱 검색과 같은 보다 강력한 검색 및 조회 방법에 모델을 연결하는 것입니다. 하지만 이 접근 방식 역시 구현이 어려울 수 있습니다. IT팀에서 임베딩 API를 사용하여 시맨틱 관계를 매핑할 수 있지만, 지속적으로 업데이트되는 다수의 소스에서 커스텀 파이프라인을 만들면 반복 업무와 복잡성이 가중될 뿐만 아니라 향후에 최신 기반 모델로 전환하는 등의 전략에 제약이 생길 위험이 있습니다. 특히 생성형 AI를 빠르게 활용하고자 하는 조직에서는 보다 사용자 친화적인 옵션을 선호합니다. 

AI는 복잡하지만 AI 채택 과정이 복잡할 필요는 없습니다

우수한 AI 플랫폼에는 강력한 모델에 대한 액세스, 데이터 모델이 고려하는 범위를 좁히는 방법, 데이터를 조회하기 위한 고급 검색 기술뿐만 아니라 복잡성을 추상화하고 기업의 지속적인 발전을 가능하게 하는 간단한 구현이 포함되어야 합니다. 경영진은 이러한 메시지를 Google 담당자들에게 명확하게 전달했으며 Google은 이를 반영하여 특히 엔터프라이즈 검색과 같이 널리 적용 가능한 사용 사례에 생성형 AI를 쉽게 도입할 수 있도록 노력해 왔습니다.

Google Cloud의 생성형 앱 빌더와 같은 제품은 엔터프라이즈 검색 시나리오는 물론 소매업 챗봇 및 기타 여러 사용 사례에 따라 맞춤설정된 생성형 채팅 인터페이스를 단 몇 분 만에 만들 수 있으며 모두 엔터프라이즈급 거버넌스, 조정, 보안 기능을 기본 제공합니다. 고객이 공개 URL을 입력하거나 사용 가능한 리소스 목록에서 선택하면 아래의 I/O 세션에 나와 있듯이 제품이 나머지 과정을 처리해 줍니다.

맞춤형 사용 사례나 정교한 사용 사례를 위해 Google에서는 모델, Embeddings API 등에 대한 미세 조정 기능도 제공합니다. 이것이 중요한 이유는 조직에는 우수한 모델뿐만 아니라 다양한 플랫폼 기능이 필요하기 때문입니다.

이번 주 Google의 AI

이번 주는 Google AI에 무척 중요한 주간이었으며 Google I/O가 진행되는 내내 놀라운 소식이 쏟아졌습니다.

I/O에서 다룬 주요 내용으로는 Bard, Cloud, Workspace에 대한 AI 관련 최신 소식과 발표, PaLM 2 및 개발 중인 Gemini 모델에 대한 세부정보, 생성형 AI로 Google 검색을 강화하려는 Google의 비전, Android, 지도, 포토에 출시될 AI 기반 기능, 책임감 있는 AI 투자에 대한 약속 등이 있습니다. 여기에서 전체 기조연설을 확인할 수 있지만 놓쳐서는 안 될 몇 가지 세부정보를 미리 전달해 드립니다.

• 고객 모멘텀: Google Cloud CEO 토마스 쿠리안이 Adore Me, Canva, Character.AI, Deutsche Bank, Instacart, Orange, Replit, Uber, Wendy’s 등 Google의 생성형 AI 및 AI 인프라 고객이 거둔 혁신적인 성과를 공유했습니다. 아래 동영상에서 고객들이 직접 전하는 생성형 AI와 Google Cloud에 대한 경험을 확인하세요.

• 생성형 AI와 Google 검색의 교차점 탐색: 주제를 보다 빠르게 이해하고 다채롭고 유용한 정보를 얻기 위한 새로운 출시 경험과 방법 등 생성형 AI가 어떻게 Google 검색에 새로운 가능성을 더하는지에 대해 공유했습니다. 자세한 내용은 이 블로그를 확인하세요. 가입 후 Google에서 살펴보고 있는 새 제품과 아이디어를 테스트할 수 있는 새로운 방법인 Search Labs도 방문하세요.
• Duet 소개: 고객이 보다 빠르게 작업을 처리할 수 있도록 지원하기 위해 Duet AI for Google Cloud와 Duet AI for Google Workspace를 활용해 상시 사용 가능한 생성형 AI 기반 공동작업 도구를 도입했습니다.
• 모델 가든의 성장: 위에서 언급했듯이 Google은 PaLM 2를 공개하고 Google의 AI 개발 플랫폼인 Vertex AI를 개발자와 데이터 과학자가 기반 모델을 활용할 수 있는 가장 쉬운 방법으로 만들어 줄 여러 업데이트를 도입했습니다. I/O에서는 코드 생성, 이미지 생성, 음성을 위한 새로운 기반 모델 출시, Embeddings API 발표, 인간의 피드백을 통한 강화 학습과 같은 추가 모델 맞춤설정 도구 소개, Google Cloud 계정이 있는 모든 사용자에게 이용 기회를 제공하기 위한 생성형 AI 스튜디오, 모델 가든, 텍스트 및 채팅용 Palm 2에 대한 미리보기 액세스 제공 등의 소식을 알렸습니다.
• 더 유용한 AI를 위한 더 강력한 인프라: Google은 NVIDIA H100 Tensor Core GPU와 Google의 선도적인 네트워킹 기술을 결합하여 까다로운 AI 모델을 학습하고 서빙하도록 특별히 제작된 차세대 A3 GPU 슈퍼 컴퓨터를 발표했습니다.
• 유명 엔터프라이즈 애플리케이션에 Google AI 적용: Google은 Box, Canvas, Dialpad, Jasper, Salesforce, UKG 등 애플리케이션에 Google Cloud 생성형 AI 기능을 통합하고 있는 확대된 기업 명단을 발표했습니다.
• PaLM 2를 통해 접근성이 커지고 더욱 스마트해진 Bard: 일부분 PaLM 2로 구동되는 Bard는 외부 파트너를 위한 멀티모달 기능 및 확장 프로그램을 포함해 계속해서 더욱 스마트해지고 있습니다. I/O에서는 Bard 액세스 대기자 명단에 있던 180개 이상의 국가 및 지역에 서비스 제공을 발표했으며 곧 더 많은 지역에 확대 제공할 계획입니다.
• 처음부터 책임감 있는 개발: 책임감 있는 AI를 위한 Google의 노력은 여러 발표에서 반복적으로 다룬 주제입니다. I/O에서도 사용자가 AI 생성 콘텐츠를 식별할 수 있도록 돕는 등 AI가 모두에게 안전하고 유용하도록 만들기 위한 Google의 노력 중 일부를 설명했습니다. 

I/O는 지속적인 여정 속에서 Google이 내디딘 가장 최근의 행보에 불과합니다. 곧 더 많은 소식을 전해 드리겠지만 그동안 기업 리더들과 최신 발표 사항에 대해 논의하고 해당 기업에서 경험하는 놀라운 생성형 AI 사용 사례를 들을 수 있기를 기대합니다.