엔터프라이즈급 생성형 AI를 더욱 폭넓게 제공하는 Google Cloud

*본 아티클의 원문은 2023년 7월 19일 Google Cloud 블로그(영문)에 게재되었습니다.

생성형 AI가 엄청난 속도로 발전을 거듭하는 가운데 조직에서 이 혁신적인 기술을 활용하기 위해 엔터프라이즈급 역량을 갖추는 것이 그 어느 때보다 중요해졌습니다.

Google Cloud는 수십 년간 축적된 Google의 AI 연구, 혁신, 투자를 토대로 보안, 데이터 거버넌스, 확장성을 갖춘 생성형 AI를 전 분야에 제공하려는 노력을 지속적으로 기울이고 있습니다.

이를 위해 지난달 Google Cloud에서는 정식 버전의 생성형 AI를 Vertex AI에 지원한다는 사실을 발표했습니다. 이제 고객은 Google 연구팀이 개발한 강력한 기반 모델과 이를 맞춤설정하고 적용할 수 있는 도구에 액세스할 수 있습니다. 

오늘 Google Cloud에서는 Vertex AI에 사용할 수 있는 4가지 중요한 기반 모델인 Imagen, 채팅용 PaLM 2, Codey, Chirp의 정식 버전(GA)을 발표합니다. 조직은 

• Imagen에 포함된 4가지 주요 기능
  

• 이미지 생성: 스튜디오급 이미지 대량 생성
  

• 이미지 편집: 텍스트 프롬프트를 통해 생성되었거나 기존에 존재하는 이미지 편집 
  

• 이미지 캡션 생성: 이미지 캡션 대량 생성
  

• 시각적 질의 응답(Visual Question & Answering, VQA): 이미지를 사용한 상호작용, 이미지 분석, 설명

• 채팅용 PaLM 2: 6월에 출시된 텍스트용 PaLM 2 정식 버전에 이은 출시 
  

• Codey: 코드 생성, 완성, 코드 채팅을 지원
  

• Chirp: 다국어 Speech AI 지원
  

아울러 이번에 발표되는 Multimodal Embeddings API 미리보기 버전을 통해 고객은 Vertex AI의 생성형 AI 모델의 강력한 성능을 자체 독점 데이터에 활용하여 텍스트 및 이미지 데이터의 임베딩이나 상호 호환되는 벡터 표현을 생성할 수 있습니다. 이러한 기능은 데이터 과학팀이 이미지 분류, 콘텐츠 추천, 시각적 검색 같은 다양한 다운스트림 작업을 처리하는 데 활용될 수 있습니다. 

이 블로그 게시물에서는 귀사에서 이러한 강력한 모델을 사용해 어떤 작업을 수행할 수 있으며 생성형 AI를 설정하고 실행하는 데 Vertex AI의 엔터프라이즈급 기능을 어떻게 활용할 수 있는지 살펴보겠습니다.

생성형 AI 모델을 활용한 기업 가치 향상

강력한 모델이 생성형 AI의 기반이기는 하지만, 기업에 이 모델을 도입하기 위해서는 모델과 관련된 소프트웨어, 도구, 인프라도 중요하게 고려해야 합니다. 조직은 이러한 모델에 액세스하는 것뿐만 아니라 지적 재산을 지속적으로 보호하고 데이터 보안 및 개인 정보 보

호 관련 규정을 준수하며 모델과 애플리케이션의 사용 안정성을 보장하면서 AI를 통합해야 하는 과제에 직면해 있습니다. 또한 많은 조직이 큰 비용을 부담하거나 거대한 클러스터를 관리할 필요 없이 생성형 AI를 사용하길 원합니다.

Google Cloud는 이와 같은 문제 해결에 도움이 될 수 있도록 확장 가능한 애플리케이션 통합, 전용 AI 인프라, 안전한 비공개 데이터 맞춤설정, 이 기술의 책임 있는 사용을 위한 Vertex AI 플랫폼 기능을 제공하고 있습니다. 

이러한 각 기본 방침이 조직에 어떤 도움이 될 수 있는지 살펴보겠습니다. 

프로덕션 단계의 생성형 애플리케이션 빌드를 위한 모델 액세스
오늘 모델 발표에서 언급한 것처럼 Vertex AI를 사용하면 기반 모델에 쉽게 액세스할 수 있습니다. 모델은 생성형 AI의 필수적인 구성요소이지만 기업에서 이 기술을 사용하는 과정을 지원하는 소프트웨어도 그만큼 중요합니다. 이러한 이유에서 Vertex AI는 기업에서 자체 데이터를 사용해 차별화된 애플리케이션을 빌드할 수 있도록 모델의 미세 조정, 배포, 모니터링, 유지관리를 위한 다양한 도구도 제공하고 있습니다. 

오늘 발표로 다시 돌아가자면, Google Cloud는 이미지 생성을 위한 기반 모델인 Imagen의 출시 소식을 5월에 발표한 바 있습니다. 이제 Imagen이 허용 목록을 통해 사용 가능한 정식 버전으로 출시됨에 따라(영업 담당자가 액세스 승인) 가입 고객은 이미지 생성 및 편집 기능 사용을 시작할 수 있습니다. 또한 프로덕션 워크로드를 위한 시각적 질의 응답과 캡션 생성 기능이 모든 고객에게 정식 버전으로 제공됩니다. 시각적 질의응답은 소매 제품 또는 이미지 라이브러리 같은 이미지 기반 데이터를 사용할 수 있는 새로운 방법입니다. 이 새로운 기능은 이미지에 대한 질문에 답변을 제공하여 대량 데이터의 신속한 분석을 지원할 뿐 아니라 시각장애인이 다른 방법으로는 알 수 없는 이미지나 그래프를 이해하는 데 도움을 줄 수도 있습니다. 한편 캡션 생성 기능은 이미지와 관련된 설명을 쉽게 생성할 수 있도록 지원합니다. 캡션은 색인 생성과 검색은 물론, 전자상거래 웹사이트의 제품 등록정보에 이미지 설명을 지정하는 데에도 활용될 수 있습니다. 

Omnicom의 Annalect 최고 제품 책임자인 아트 쉬람은 "Omnicom의 개방형 운영체제인 Omni 내 핵심 기능에 Imagen의 역량이 더해지면서 교육과 인증을 받은 17,000명 이상의 사용자가 잠재고객에 맞춰 설정된 이미지를 수 분 내에 생성할 수 있게 되었습니다. Imagen은 이미지 생성과 맞춤설정을 위한 확장 가능한 플랫폼을 제공하는 데 중요한 역할을 하고 있습니다. 플랫폼에 Imagen을 통합한 덕분에 잠재고객으로부터 영감을 받은 창작 활동의 범위를 이전에는 불가능했던 규모로 넓힐 수 있게 되었습니다."라고 말했습니다. "Omnicom은 스타일과 미세 조정 같은 최신 기능뿐 아니라 엔지니어링 데이터 중심의 프롬프트를 도입하기 시작했습니다. 앞으로도 사용자와 연관성이 높은 시각적 요소 관련 아이디어를 책임감 있는 방식으로 제공할 수 있길 기대합니다."

Typeface의 제품 책임자인 비샬 수드는 "최근 개선된 Imagen의 제품 유지 역량은 Typeface의 중점 사업인 브랜드 맞춤 AI에 완벽하게 부합합니다."라고 설명했습니다. "Google Vertex AI의 Imagen을 Typeface의 브랜드 맞춤 AI에 접목하면서 기업이 짧은 시간 내에 10배나 많은 맞춤 콘텐츠를 생성하도록 도울 수 있게 되었습니다."

최근 Google 쇼핑은 Vertex AI 기반 Imagen을 사용해 Product Studio라는 애플리케이션을 개발했습니다. Product Studio는 판매자가 전문가급의 제품 사진을 촬영하는 데 들던 시간의 일부만 투입해 풍부한 제품 이미지를 신속하고 쉽게 생성할 수 있도록 지원합니다. Google의 제품 관리 부문 전무이사인 제프 하렐은 “초기 파일럿에 참여한 판매자로부터 Vertex AI 기반 Imagen을 활용한 Product Studio가 제품 실사용 사진을 생성하고 제품 카탈로그에 바로 게시하는 데 도움이 된다는 긍정적인 반응을 얻었습니다."라고 말합니다.

5월에 발표된 PaLM 2는 Google Cloud의 Bard와 Duet AI를 비롯한 수십 개의 Google 제품을 지원하는 모델군입니다. 현재 정식 버전으로 출시된 채팅용 PaLM 2 모델을 통해 쇼핑 도우미, 고객 지원 담당자 등의 멀티턴 채팅 애플리케이션에 Google PaLM의 다양한 기능을 활용할 수 있게 되었습니다. 

널리 사용되는 비즈니스 인텔리전스 플랫폼 제공업체인 ThoughtSpot은 Google Sheets용 ThoughtSpot에 차트, 시각적 요소, 이상치의 설명을 즉시 생성할 수 있는 'AI Explain'이라는 새로운 기능을 빌드하기 위해 PaLM 2를 사용하고 있으며, 분석 플랫폼에 새로운 대화형 AI와 ML 기반 예측 기능을 선보일 예정입니다. 

Codey를 사용하는 조직의 개발자는 다양한 코딩 작업의 속도를 높여 작업의 효율성을 높이고 기술 격차를 메울 수 있습니다. 이 모델은 코드 완성 및 코드 생성 기능뿐 아니라 디버깅, 문서 작성, 새로운 개념 학습 등에 도움이 되는 채팅까지 지원합니다. 5월에 미리보기 버전으로 출시된 이후 Go, Google 표준 SQL, Java, JavaScript, Python, Typescript와 같은 프로그래밍 언어가 추가되었습니다. 또한 코드 응답의 품질을 개선하고 제공 역량을 높여 개발자들이 생성형 엔지니어링 시대를 맞아 적절한 도구를 갖출 수 있도록 뒷받침했습니다.

GitLab의 최고 제품 책임자인 데이비드 데산토는 "보안과 개인 정보 보호는 소프트웨어 개발 수명 주기에 AI를 통합할 때 반드시 고려해야 할 핵심 요소입니다."라고 말했습니다. "GitLab은 새로운 AI 기반 기능을 개인 정보 보호 우선 접근방식으로 제공하기 위해 Vertex AI를 활용하고 있습니다. 덕분에 PaLM 2를 바탕으로 빌드된 Codey 기반 모델을 활용하고 자체 모델을 실행할 수 있게 되었습니다. GitLab DevSecOps 플랫폼은 조직에서 데이터, 지식 재산, 소스 코드를 보호하면서도 AI의 장점을 활용해 소프트웨어를 보다 신속하게 제공할 수 있도록 도와줍니다."

5월에 미리보기 버전으로 처음 출시된 Chirp는 Google Cloud에서 수백만 시간 상당의 오디오로 학습하고 100개 이상의 언어를 지원하도록 개발하여 매개변수가 20억 개에 달하는 음성 모델의 한 버전입니다. Chirp는 영어 정확도가 98%에 달하며 사용자가 1,000만 명 미만인 언어에서는 최대 300%의 상대적 개선을 실현합니다. 고객 지원, 스크립트 작성 또는 음성 제어와 같은 사용 사례에 Chirp를 활용하는 조직은 현지 언어로 잠재고객을 응대하여 고객과 주민들과 소통할 수 있습니다.

마지막으로, 현재 미리보기 버전으로 출시된 Multimodal Embeddings API는 텍스트와 이미지를 상호 호환되도록 처리하여 이미지 및 텍스트 기반 추천 같은 새로운 애플리케이션을 다양하게 개발할 수 있는 가능성을 열어줍니다. 이 기능은 6월에 정식 출시되어 완전히 텍스트 기반의 사용 사례에 권장되는 Text Embeddings API를 보완하는 역할을 합니다. Multimodal Embeddings API를 사용하면 이미지와 텍스트를 함께 분류하는 것이 가능해집니다. 또한 제품 이미지와 텍스트 설명을 모두 사용해 연관성이 높은 결과를 제공할 수 있는 소매용 추천 시스템 같은 사용 사례에 중요하게 사용될 수 있습니다.

생성형 AI에 맞는 인프라 구축
생성형 AI 앱 빌드에 필요한 모델과 도구에 액세스하는 것 외에도 앱의 확장과 안정적인 실행을 뒷받침할 인프라가 필요합니다. 되도록이면 기술 인력이 혁신적인 제품을 빌드하는 데에만 집중할 수 있도록 부담스러운 컴퓨팅 비용이나 관리 오버헤드가 발생하지 않는 것이 이상적입니다. Google Cloud는 최소한의 지연 시간으로 유한한 태스크를 실행하는 소규모 모델은 물론 최신 실험을 수행할 수 있는 대규모 모델을 실행할 수 있는 선택사항과 역량을 제공합니다.

대규모 언어 모델 고객은 Google Cloud 모델을 사용해 프로젝트와 애플리케이션 규모를 확대할 계획이며, 요청이 합당한 수준의 성능으로 처리될지 확신을 얻고 싶어 하는 경우가 많습니다. 고객 서비스가 핵심인 실시간 애플리케이션을 제공할 때 특히 중요한 부분입니다. Vertex AI는 8월부터 보장된 처리량을 제공할 수 있도록 프로비저닝된 전용 생성형 AI 용량을 지원할 예정입니다. 이 기능은 워크로드가 대량으로 꾸준히 지속되는 고객에게 특히 유용하게 활용될 수 있습니다.

데이터와 개인 정보가 보호되는 생성형 AI 활용
Google Cloud에서는 고객이 자체 데이터를 사용해 모델을 맞춤설정할 수 있는 기능을 지원하고 있습니다. Vertex AI는 고객이 데이터를 보호하고 안전하게 비공개 상태로 유지하는 데 도움이 됩니다. 기업이 Vertex AI에서 기반 모델을 미세 조정할 때 비공개 데이터, 모델 출력, 프롬프트를 비공개 상태로 유지할 수 있으며 기반 모델 학습 코퍼스에 절대 사용되지 않습니다. 고객 데이터 보호를 위한 Google Cloud의 노력은 최근 발간한 'Adaptation of Large Foundation Models(대규모 기반 모델 적응)'이란 백서에 소개되어 있습니다.  

감사 기능과 규정 준수는 고객 데이터의 보안과 개인 정보 보호를 보장하는 데 필수적입니다. Google Cloud는 고객 데이터 사용에 대한 투명성 약속과 고객의 데이터 보호 영향 평가(DPIA) 지원을 비롯한 포괄적인 GDPR 개인 정보 보호 노력에도 참여하고 있습니다. Google Cloud는 Vertex AI에 정식 버전으로 출시된 많은 모델에 대해서도 HIPAA를 준수하고 있습니다. 이제 비즈니스 제휴 계약을 체결한 의료 및 생명과학 고객은 Google Cloud에서 보호 건강 정보(PHI) 데이터로 워크로드를 실행할 수 있습니다.

책임 있는 혁신
비즈니스 성과보다는 유익한 사용, 사용자 안전, 피해 예방을 우선시하는 Google Cloud의 AI 원칙이 AI 제품 개발에도 그대로 적용되었습니다. Google Cloud는 생성형 AI 제품에 대한 포괄적인 점검을 통해 잠재적인 위험을 식별하고 이러한 영향을 완화하기 위한 안전 장치를 개발했습니다. 예를 들어 안전에 대한 우려를 해소하기 위해 편견과 악의적인 표현, 그 밖의 유해한 콘텐츠를 거르기 위한 안전 필터를 구현했습니다. Google Cloud는 고객에게 애플리케이션 내 위험을 완화하는 데 도움이 되는 도구와 함께 책임감 있는 AI 도입 과정에 도움이 되는 권장사항을 제공합니다.

조직에 강력한 생성형 AI 성능 탑재

Vertex AI는 다양한 기반 모델과 광범위한 엔터프라이즈급 플랫폼 역량을 모두 갖추고 있으면서도 비즈니스나 조직이 기반 모델을 액세스해 자체 데이터를 기반으로 미세 조정한 후 차별화된 앱 및 디지털 환경에 활용할 수 있는 방법을 계속해서 개발하고 있습니다. 다음 단계가 궁금하다면 Google Cloud의 제품 페이지를 방문하거나 영업 담당자에게 연락하여 Google Cloud의 최신 기능에 대해 알아보세요.