Vertex AI SDK의 언어 모델 클래스 소개

Python용 Vertex AI SDK를 사용하여 Vertex AI 언어 기반 모델을 통해 프로그래매틱 방식으로 솔루션을 만들 수 있습니다. Vertex AI SDK에는 텍스트 생성, 텍스트 채팅, 텍스트 임베딩, 코드 생성, 코드 채팅, 코드 완성 모델을 위한 클래스가 포함되어 있습니다.

Python용 Vertex AI SDK를 설치하는 방법은 Python용 Vertex AI SDK 설치를 참조하세요. Vertex AI SDK 참조 가이드에서 언어 모델 섹션을 보려면 패키지 언어 모델을 참조하세요.

Vertex AI SDK에 표시된 언어 모델은 생성형 AI 및 언어 모델과 관련이 없는 Vertex AI 솔루션을 만드는 데 도움이 되는 클래스에 추가됩니다. Vertex AI SDK를 사용하여 데이터 수집을 자동화하고 모델을 학습시키고 Vertex AI에서 예측을 수행하는 방법에 대한 자세한 내용은 Python용 Vertex AI SDK 소개를 참조하세요.

언어 모델 클래스 개요

Vertex AI SDK에는 일반적인 생성형 AI 태스크를 수행하는 데 도움이 되는 언어 모델 클래스가 포함되어 있습니다. 다음은 Vertex AI에서 사용할 수 있는 기반 모델로 작업하는 데 사용되는 모델 클래스입니다.

  • ChatModel - 텍스트 채팅 기반 모델을 사용하려면 이 클래스를 사용합니다. 이 모델의 현재 안정적인 버전 이름은 chat-bison@002입니다.
  • CodeChatModel - 코드 채팅 기반 모델을 사용하려면 이 클래스를 사용합니다. 이 모델의 현재 안정적인 버전 이름은 codechat-bison@002입니다.
  • CodeGenerationModel — 코드 생성 및 코드 완성 기반 모델을 사용하려면 이 클래스를 사용합니다. 코드 생성 모델의 현재 안정적인 버전 이름은 code-bison@002이고 코드 완성 모델의 현재 안정적 버전 이름은 code-gecko@001입니다.
  • TextEmbeddingModel - 텍스트 임베딩 기반 모델을 사용하려면 이 클래스를 사용합니다. 코드 생성 모델의 현재 안정적인 버전 이름은 textembedding-gecko@003입니다.
  • TextGenerationModel - 텍스트 생성 기반 모델을 사용하려면 이 클래스를 사용합니다. 텍스트 생성 모델의 현재 안정화 버전 이름은 text-bison@002 및 text-unicorn@001입니다.

기반 모델 로드

Vertex AI SDK를 사용하여 기반 모델을 사용하려면 모델 인스턴스를 로드합니다. 모델을 로드하려면 언어 모델 클래스에서 from_pretrained 메서드를 사용합니다. 기반 모델을 사전 학습된 모델이라고도 합니다. from_pretrained를 호출할 때 사용하려는 모델의 안정적인 버전이나 최신 버전을 지정합니다. 안정적인 버전과 최신 버전에 대한 자세한 내용과 코드에 지정된 방법에 대한 자세한 내용은 모델 버전 및 수명 주기를 참조하세요.

다음 Python 코드 샘플 줄에서는 기반 모델을 로드하는 방법을 보여줍니다.

  • 사전 학습된 코드 채팅 모델의 안정적인 버전의 001 버전을 가져옵니다.

    from vertexai.language_models import ChatModel

my_chat_model = ChatModel.from_pretrained("chat-bison@002")

  • 텍스트 생성 모델의 최신 버전을 가져옵니다.

    from vertexai.language_models import TextGenerationModel

my_text_generation_model = TextGenerationModel.from_pretrained("text-bison")

Vertex AI SDK를 사용하여 모델을 로드한 후에 모델을 사용하여 생성형 AI 솔루션을 만들 수 있습니다. 로드된 모델로 수행할 수 있는 일부 태스크는 텍스트 및 코드 콘텐츠 생성, 콘텐츠 스트리밍, 텍스트 또는 코드 채팅 세션 만들기, 모델 조정, 임베딩 가져오기, 일괄 예측 만들기입니다. 수행할 수 있는 특정 태스크는 로드한 모델 유형에 따라 다릅니다.

다음 단계