Google의 가장 강력한 모델 Gemini를 이제 Vertex AI에서 만나보세요

지난주, Google은 역대 가장 뛰어나고 유연한 모델인 Gemini를 발표했습니다. Gemini는 Ultra(울트라), Pro(프로), Nano(나노)의  세가지 사이즈로 제공됩니다. 오늘부터 Vertex AI(버텍스 AI)에서 직관적 도구 모음, 완전 관리형 인프라, 내장된 데이터 프라이버시(data privacy) 및 안전 기능과 함께 Gemini Pro를 사용할 수 있습니다. 개발자는 Gemini Pro를 활용해 정보를 이해하고 그에 따라 행동하는 ‘에이전트(Agent)’를 구축할 수 있습니다. 

Vertex AI에서 Gemini를 활용해 프로덕션 수준의 대규모 에이전트 구축

Vertex AI에서 Gemini를 커스터마이즈(customize)하고 배포할 수 있습니다. 현재 버전을 통해 개발자는 텍스트, 코드, 이미지 및 영상 전반에 걸쳐 추론 기능을 갖춘 새롭고 차별화된 애플리케이션을 구축할 수 있습니다. 

개발자는 Vertex AI를 통해 다음과 같은 작업을 수행할 수 있습니다.

• Gemini를 포함해 Google이 엄선한 130개 이상의 엄선된 AI 모델 리스트에서 원하는 모델을 찾아 사용할 수 있습니다. 해당 리스트는 Google의 엄격한 기업 안전성과 품질 기준을 충족하는 Google 자체 모델과 오픈소스 및 서드파티 AI 모델 등을 포함합니다. 개발자는 손쉬운 API 액세스 만으로 모델을 애플리케이션에 빠르게 통합할 수 있습니다.
• 튜닝 도구를 사용해 학습 지식을 보강하고 필요에 따라 모델 가중치를 조정해, 특정 도메인 지식 또는 기업이 보유한 전문 지식으로 모델을 커스터마이즈할 수 있습니다. Vertex AI는 프롬프트 디자인, LoRA(Low Rank Adaptation)와 같은 어댑터 튜닝, 증류(Distillation) 등을 포함한 다양한 튜닝 기법을 제공합니다. 또한 Vertex AI는  RLHF(인간 피드백 기반 강화 학습, Reinforcement Learning from Human Feedback) 방식을 통해 유저 피드백을 수집해 모델을 개선할 수 있도록 지원합니다.
• 특정 컨텍스트나 유즈 케이스(use case)에 맞게 Gemini를 조정할 수 있는 도구를 활용해 모델을 증강(augment)할 수 있습니다. 개발자는 Vertex AI 확장 프로그램(Vertex AI Extensions) 및 커넥터로 Gemini를 외부 API와 연결해 트랜잭션과 기타 작업을 수행하고, 외부 소스에서 데이터를 검색하며, 코드베이스에서 함수를 불러올 수 있습니다. 또한 Vertex AI는 기업이 자체 데이터 소스를 기반으로 파운데이션 모델(foundation model)의 답변을 생성할 수 있는 기능을 제공해, 모델 답변의 정확성과 적합성을 개선할 수 있도록 돕습니다. Vertex AI는 기업이 보유한 정형 및 비정형 데이터에 대한 그라운딩(grounding)과 구글 검색 기술을 이용한 그라운딩을 지원합니다. 
• 구축한 애플리케이션을 쉽게 배포하고 관리할 수 있도록 지원하는 도구를 활용해 프로덕션 환경에서 모델을 관리하고 확장할 수 있습니다. 이를 위해 Google은 모델을 검증하고 비교하는 새로운 모델 평가 방식으로, 온디맨드(on-demand) 자동화 도구인 ‘오토매틱 사이드 바이 사이드(Automatic Side by Side, Auto SxS)’를 도입합니다. 오토매틱 사이드 바이 사이드는 수동 모델 평가 방식보다 더 빠르고 비용 효율적일 뿐만 아니라, 다양한 작업 유형에 맞춰 평가 과정을 커스터마이즈 해 새로운 생성형 AI 유즈 케이스에도 대응할 수 있습니다. 
• 로우 코드(Low code) 및 노 코드(No code) 환경에서 검색 및 대화형 에이전트를 구축할 수 있습니다. Vertex AI를 사용하면 개발자는 머신러닝 기술 수준에 관계없이 Gemini Pro를 통해 몇 주, 몇 달이 아니라 단 몇 시간, 며칠 만에 뛰어난 프로덕션 수준의 AI 에이전트를 구축할 수 있습니다. 곧 Gemini Pro는 Vertex AI의 검색 결과 요약 및 답변 생성 기능을 강화하는 옵션으로 제공되며, 검색 애플리케이션의 품질, 정확성 및 그라운딩 기능을 향상시킬 예정입니다. 또한 음성 및 챗을 위한 대화형 에이전트의 파운데이션 모델로도 Gemini의 프리뷰 기능이 제공되어, 고급 추론을 기반으로 유저와의 동적인 상호작용을 제공할 예정입니다.
• 안전성 필터, 콘텐츠 조정(contents moderation) API 등 Vertex AI의 책임감 있는 AI 도구는 모델이 부적절한 콘텐츠를 생성하지 않도록하여, 개발자는 책임감 있는 혁신을 구현할 수 있습니다. 
• Google Cloud에 내장된 데이터 거버넌스와 데이터 프라이버시 제어 기능으로 데이터를 보호할 수 있습니다. 고객 데이터에 대한 제어 권한은 전적으로 고객에게 있으며, Google은 절대 고객의 동의 없이 고객 데이터를 자사 모델 학습에 활용하지 않습니다. Vertex AI는 고객 관리 암호화 키(Customer Managed Encryption Keys), VPC 서비스 제어(VPC Service Controls) 등 고객이 자사 데이터를 오롯이 제어할 수 있도록 다양한 메커니즘을 제공합니다.

생성형 모델의 출력물에 대한 면책

Google의 포괄적인 AI 접근 방식은 고객을 안전하게 보호하는 것을 목표로 설계됐습니다. Google은 업계 최초로 저작권 면책을 이중적으로 제공하는 방안을 도입함으로써, 클라우드 고객이 Google의 생성형 AI 제품을 안심하고 이용할 수 있도록 지원합니다. 오늘부터 Google은 생성형 출력물 면책 범위를 확장함으로써, 학습 데이터 사용 관련 클레임에 대한 면책도 제공하고, 나아가 PaLM 2 및 Vertex AI Imagen의 출력물까지 면책 범위에 포함합니다. Gemini API가 정식 출시되면 Gemini API에도 면책이 적용될 계획입니다.

Gemini 시대가 시작됐습니다 - Gemini와 함께 개발을 시작해보세요

Vertex AI에서 Gemini Pro를 프리뷰 버전으로 만나보실 수 있습니다. 개발자는 정식 출시되기 전까지 Gemini Pro API를 무료로 사용해볼 수 있으며, 그 이후에는 요금이 부과됩니다. 프롬프트 개발을 위한 무료 웹 기반 도구인 Google AI Studio에서도 Gemini Pro를 사용할 수 있습니다. Google은 Gemini Ultra를 내년 초 개발자 및 기업 고객에게 정식 제공하기 전, 일부 고객, 개발자, 파트너, 보안 및 책임 전문가에게 선제공해 초기 테스트 및 피드백을 받을 예정입니다. 

오늘 진행되는 Applied AI Summit에서 더 자세한 내용을 확인해보시기 바랍니다.