Google AI 기반 Gemini에서 Vertex AI로 이전

Gemini를 처음 사용하는 경우 빠른 시작이 가장 빠른 시작 방법입니다.

그렇지만 생성형 AI 솔루션이 발전함에 따라 생성형 AI 애플리케이션과 솔루션을 엔드 투 엔드로 빌드하고 배포하는 플랫폼이 필요할 수 있습니다. Google Cloud는 개발자가 앱 개발 초기 단계부터 앱 배포, 앱 호스팅, 복잡한 데이터의 대규모 관리에 이르기까지 생성형 AI의 강력한 성능을 활용할 수 있도록 포괄적인 도구 생태계를 제공합니다.

Google Cloud의 Vertex AI 플랫폼은 효율성과 안정성을 위해 AI 모델의 사용, 배포, 모니터링을 간소화하는 MLOps 도구 모음을 제공합니다. 또한 데이터베이스, DevOps 도구, 로깅, 모니터링, IAM과 통합하는 경우 생성형 AI 전체 수명 주기 관리에 대한 종합적인 접근이 가능합니다.

또한 데이터베이스, DevOps 도구, 로깅, 모니터링, IAM과 통합하는 경우 생성형 AI 전체 수명 주기 관리에 대한 종합적인 접근이 가능합니다.

다음은 Google Cloud 제품이나 서비스에 적합한 일반적인 사용 사례의 예시입니다.

앱과 솔루션을 프로덕션 게시합니다. Cloud Functions와 Cloud Run 같은 제품을 사용하면 엔터프라이즈급 규모, 보안, 개인정보 보호 기능을 갖춘 앱을 배포할 수 있습니다. Google Cloud의 보안, 개인정보 보호, 규정 준수 가이드에서 보안 및 개인정보 보호에 관한 자세한 내용을 확인하세요.
튜닝부터 벡터 유사성 검색 및 ML 파이프라인까지 엔드 투 엔드 MLOps 기능에 Vertex AI를 사용합니다.
Cloud Functions 또는 Cloud Run을 사용하는 이벤트 기반 아키텍처에서 LLM 호출을 트리거합니다.
Cloud Logging 및 BigQuery로 앱 사용량을 모니터링합니다.
BigQuery, Cloud Storage, Cloud SQL 등 서비스를 사용하여 엔터프라이즈급 보안으로 대규모 데이터를 저장합니다.
BigQuery 또는 Cloud Storage로 클라우드에 저장된 데이터를 사용하여 검색 증강 생성(RAG)을 수행합니다.
데이터 파이프라인을 만들고 예약합니다. Cloud Scheduler를 사용하여 작업을 예약할 수 있습니다.
클라우드의 데이터에 LLM을 적용합니다. Cloud Storage 또는 BigQuery에 데이터를 저장하는 경우 해당 데이터에 대한 LLM 프롬프트를 표시할 수 있습니다. 예를 들어 정보를 추출하거나 요약하거나 그에 대해 질문할 수 있습니다.
Google Cloud의 데이터 거버넌스/상주 정책을 활용하여 데이터 수명 주기를 관리합니다.

Google AI와 Vertex AI의 차이점

다음 표에는 사용 사례에 적합한 옵션을 결정하는 데 도움이 되도록 Google AI와 Vertex AI의 주요 차이점이 요약되어 있습니다.

기능	Google AI Gemini API	Google Cloud Vertex AI Gemini API
최신 Gemini 모델	Gemini Pro 및 Gemini Ultra	Gemini Pro 및 Gemini Ultra
신청	Google 계정	Google Cloud 계정(약관 동의 및 결제 포함)
인증	API 키	Google Cloud 서비스 계정
사용자 인터페이스 플레이그라운드	Google AI Studio	Vertex AI Studio
API 및 SDK	Python, Node.js, Android(Kotlin/Java), Swift, Go	SDK는 Python, Node.js, Java, Go를 지원합니다.
무료 등급	예	신규 사용자의 경우 Google Cloud 크레딧 $300
할당량(분당 요청)	60(증가를 요청할 수 있음)	요청 시 증가(기본값: 60)
엔터프라이즈 지원	No	고객 암호화 키 가상 프라이빗 클라우드 데이터 상주 액세스 투명성 애플리케이션 호스팅을 위한 확장 가능한 인프라 데이터베이스 및 데이터 스토리지
MLOps	아니요	완전한 Vertex AI 기반 MLOps(예: 모델 평가, 모델 모니터링, Model Registry)

Vertex AI로 마이그레이션

이 섹션에서는 Google AI Gemini 사용에서 Google Cloud의 Vertex AI Gemini로 마이그레이션하는 방법을 보여줍니다.

마이그레이션 시 고려사항

마이그레이션 시 다음 사항을 고려하세요.

기존 Google Cloud 프로젝트(API 키를 생성하는 데 사용한 동일한 프로젝트)를 사용하거나 Google Cloud 프로젝트를 새로 만들 수 있습니다.
지원되는 리전은 Google AI Studio와 Vertex AI 간에 다를 수 있습니다. Google Cloud의 생성형 AI가 지원되는 리전 목록을 참조하세요.
Google AI Studio에서 만든 모든 모델은 Vertex AI에서 재학습을 거쳐야 합니다.

Vertex AI Studio 사용 시작하기

Vertex AI로 마이그레이션하는 프로세스는 이미 Google Cloud 계정이 있는지 또는 Google Cloud를 처음 사용하는지에 따라 다릅니다.

Vertex AI로 마이그레이션하는 방법을 알아보려면 Google Cloud 계정 상태에 따라 다음 탭 중 하나를 클릭합니다.

이미 Google Cloud를 사용하는 경우

Google AI Studio에 로그인합니다.
왼쪽 탐색창 하단에서 Google Cloud에서 Vertex AI로 빌드를 클릭합니다.

Vertex AI 및 Google Cloud 무료로 사용해 보기 페이지가 열립니다.
동의 및 계속하기를 클릭합니다.

Vertex AI Studio 시작하기 대화상자가 나타납니다.
Vertex AI를 실행하는 데 필요한 API를 사용 설정하려면 동의 및 계속을 클릭합니다.

Vertex AI 콘솔이 표시됩니다. Google AI 스튜디오에서 데이터를 마이그레이션하는 방법은 프롬프트 마이그레이션을 참조하세요.

Google Cloud 처음 사용

Google AI Studio에 로그인합니다.
왼쪽 탐색창 하단에서 Google Cloud에서 Vertex AI로 빌드를 클릭합니다.

계정을 만들어 Google Cloud 시작하기 페이지가 열립니다.
동의 및 계속하기를 클릭합니다.

본인 확인 페이지가 표시됩니다.
무료 시작을 클릭합니다.

Vertex AI Studio 시작하기 대화상자가 나타납니다.
Vertex AI를 실행하는 데 필요한 API를 사용 설정하려면 동의 및 계속을 클릭합니다.
(선택사항) Google AI 스튜디오에서 데이터를 마이그레이션하는 방법은 프롬프트 마이그레이션 페이지의 '프롬프트 마이그레이션'을 참조하세요.

Python: Vertex AI Gemini API로 마이그레이션

다음 섹션에서는 Vertex AI Gemini API를 사용하도록 Python 코드를 마이그레이션하는 데 도움이 되는 코드 스니펫을 보여줍니다.

Vertex AI Python SDK 설정

Vertex AI에서는 API 키가 필요하지 않습니다. 대신 Vertex AI의 Gemini는 사용자, 그룹 또는 서비스 계정이 Vertex AI SDK를 통해 Gemini API를 호출할 수 있는 권한을 제어하는 IAM 액세스를 사용하여 관리합니다.

인증하는 방법에는 여러 가지가 있지만 개발 환경에서 인증하는 가장 쉬운 방법은 Google Cloud CLI를 설치한 후 사용자 인증 정보를 사용하여 CLI에 로그인하는 것입니다.

Vertex AI에 추론 호출을 수행하려면 사용자 또는 서비스 계정에 Vertex AI 사용자 역할이 있는지 확인해야 합니다.

클라이언트를 설치하는 코드 예시

Google AI Vertex AI

Google AI	Vertex AI
`# To install the Python SDK, use this CLI command: # pip install google-generativeai from google.generativeai import GenerativeModel from google.colab import userdata genai.configure(userdata.get('API_KEY'))`	`# To install the Python SDK, use this CLI command: # pip install google-cloud-aiplatform import vertexai from vertexai.generative_models import GenerativeModel, Image PROJECT_ID = "" REGION = "" # e.g. us-central1 vertexai.init(project=PROJECT_ID, location=REGION)`


        
# To install the Python SDK, use this CLI command:
# pip install google-generativeai

from google.generativeai import GenerativeModel
from google.colab import userdata

genai.configure(userdata.get('API_KEY'))


        
# To install the Python SDK, use this CLI command:
# pip install google-cloud-aiplatform

import vertexai
from vertexai.generative_models
          import GenerativeModel, Image

PROJECT_ID = ""
REGION = ""  # e.g. us-central1
vertexai.init(project=PROJECT_ID, location=REGION)

텍스트 프롬프트에서 텍스트를 생성하는 코드 예시

Google AI Vertex AI

Google AI	Vertex AI
`model = GenerativeModel('gemini-1.0-pro') response = model.generate_content('The opposite of hot is') print(response.text) # The opposite of hot is cold.`	`model = GenerativeModel('gemini-1.0-pro') response = model.generate_content('The opposite of hot is') print(response.text) # The opposite of hot is cold.`


        
model = GenerativeModel('gemini-1.0-pro')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.


        
model = GenerativeModel('gemini-1.0-pro')

response = model.generate_content('The opposite of hot is')
print(response.text) #  The opposite of hot is cold.

텍스트와 이미지에서 텍스트를 생성하는 코드 예시

Google AI Vertex AI

Google AI	Vertex AI
`import PIL.Image multimodal_model = GenerativeModel('gemini-1.0-pro-vision') image = PIL.Image.open('image.jpg') response = multimodal_model.generate_content(['What is this picture?', image]) print(response.text) # A cat is shown in this picture.`	`multimodal_model = GenerativeModel("gemini-1.0-pro-vision") image = Image.load_from_file("image.jpg") response = multimodal_model.generate_content(["What is shown in this image?", image]) print(response.text) # A cat is shown in this picture.`


        
import PIL.Image

multimodal_model = GenerativeModel('gemini-1.0-pro-vision')

image = PIL.Image.open('image.jpg')

response = multimodal_model.generate_content(['What is this picture?', image])
print(response.text) # A cat is shown in this picture.


        
multimodal_model = GenerativeModel("gemini-1.0-pro-vision")

image = Image.load_from_file("image.jpg")

response = multimodal_model.generate_content(["What is shown in this image?", image])

print(response.text) # A cat is shown in this picture.

멀티턴 채팅을 생성하는 코드 예시

Google AI Vertex AI

Google AI	Vertex AI
`model = GenerativeModel('gemini-1.0-pro') chat = model.start_chat() print(chat.send_message("How are you?").text) print(chat.send_message("What can you do?").text)`	`model = GenerativeModel("gemini-1.0-pro") chat = model.start_chat() print(chat.send_message("How are you?").text) print(chat.send_message("What can you do?").text)`


        
model = GenerativeModel('gemini-1.0-pro')

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)


        
model = GenerativeModel("gemini-1.0-pro")

chat = model.start_chat()

print(chat.send_message("How are you?").text)
print(chat.send_message("What can you do?").text)

Vertex AI Studio로 프롬프트 마이그레이션

Google AI Studio 프롬프트 데이터는 Google Drive 폴더에 저장됩니다. 이 섹션에서는 Vertex AI Studio로 프롬프트를 마이그레이션하는 방법을 보여줍니다.

Google 드라이브를 엽니다.
프롬프트가 저장된 AI_Studio 폴더로 이동합니다.
Google Drive에서 로컬 디렉터리로 프롬프트를 다운로드합니다.

참고: Google Drive에서 다운로드한 프롬프트는 텍스트 (txt) 형식입니다. Vertex AI Studio에 업로드하기 전에 JSON 파일로 변환합니다. 이렇게 하려면 파일 확장자를 .txt에서 .json으로 변경하세요.
Google Cloud 콘솔에서 Vertex AI Generative AI Studio를 엽니다.
Vertex AI 메뉴에서 언어를 클릭합니다.
내 프롬프트 탭을 클릭합니다.
프롬프트 가져오기를 클릭합니다.
프롬프트 파일 필드에서 찾아보기를 클릭하고 로컬 디렉터리에서 프롬프트를 선택합니다.

프롬프트를 일괄 업로드하려면 프롬프트를 단일 JSON 파일로 수동으로 결합해야 합니다.
업로드를 클릭합니다.

프롬프트가 내 프롬프트 탭에 업로드됩니다.

Vertex AI Studio에 학습 데이터 업로드

학습 데이터를 Vertex AI로 마이그레이션하려면 데이터를 Google Cloud Storage 버킷에 업로드해야 합니다. 자세한 내용은 언어 기반 모델 조정을 참조하세요.

사용하지 않는 API 키 삭제

Google AI Gemini API 키를 더 이상 사용할 필요가 없으면 보안 권장사항에 따라 삭제합니다.

다음 단계

Generative AI Studio 또는 Vertex AI API를 사용하여 빠른 시작 튜토리얼 사용해 보기