Model Garden에서 모델 카드를 사용하는 방법

연결된 모델을 사용하려면 모델 카드를 클릭합니다. 모델 카드를 클릭하여 프롬프트를 테스트하고, 모델을 조정하고, 애플리케이션을 만들고, 코드 샘플을 볼 수 있습니다.

프롬프트 테스트

Vertex AI PaLM API 모델 카드를 사용하여 프롬프트를 테스트합니다.

  1. Google Cloud 콘솔에서 Model Garden 페이지로 이동합니다.

    Model Garden으로 이동

  2. 테스트하려는 지원되는 모델을 찾아서 세부정보 보기를 클릭합니다.

  3. 프롬프트 설계 열기를 클릭합니다.

    프롬프트 설계 페이지로 이동합니다.

  4. 프롬프트에서 테스트할 프롬프트를 입력합니다.

  5. (선택사항) 모델 매개변수를 구성합니다.

  6. 제출을 클릭합니다.

모델 조정

지원되는 모델을 조정하려면 Vertex AI 파이프라인 또는 노트북을 사용하세요.

파이프라인을 사용하여 조정

BERT 및 T5-FLAN 모델은 파이프라인을 사용한 모델 조정을 지원합니다.

  1. Google Cloud 콘솔에서 Model Garden 페이지로 이동합니다.

    Model Garden으로 이동

  2. 모델 검색에서 BERT 또는 T5 FLAN을 입력한 다음 돋보기를 클릭하여 검색합니다.

  3. T5-FLAN 또는 BERT 모델 카드에서 세부정보 보기를 클릭합니다.

  4. 미세 조정 파이프라인 열기를 클릭합니다.

    Vertex AI 파이프라인 페이지가 표시됩니다.

  5. 조정을 시작하려면 실행 만들기를 클릭합니다.

노트북에서 조정

대부분의 오픈소스 기반 모델 및 미세 조정 가능한 모델의 모델 카드는 노트북에서 조정을 지원합니다.

  1. Google Cloud 콘솔에서 Model Garden 페이지로 이동합니다.

    Model Garden으로 이동

  2. 조정하려는 지원되는 모델을 찾아서 세부정보 보기를 클릭합니다.

  3. 노트북 열기를 클릭합니다.

모델 배포

Stable Diffusion과 같은 모델 카드에서 모델을 배포할 수 있습니다. 모델을 배포할 때 Compute Engine 예약을 사용할 수 있습니다. 자세한 내용은 예측과 함께 예약 사용을 참고하세요.

  1. Google Cloud 콘솔에서 Model Garden 페이지로 이동합니다.

    Model Garden으로 이동

  2. 배포하려는 지원되는 모델을 찾고 모델 카드를 클릭합니다.

  3. 배포를 클릭하여 모델 배포 창을 엽니다.

  4. 모델 배포 창에서 배포 세부정보를 지정합니다.

    1. 생성된 모델 및 엔드포인트 이름을 사용하거나 수정합니다.
    2. 모델 엔드포인트를 만들 위치를 선택합니다.
    3. 배포의 각 노드에 사용할 머신 유형을 선택합니다.
    4. Compute Engine 예약을 사용하려면 배포 설정 섹션에서 고급을 선택합니다.

      예약 유형 필드에서 예약 유형을 선택합니다. 예약은 지정된 머신 사양과 일치해야 합니다.

      • 생성된 예약 자동 사용: Vertex AI는 일치하는 속성이 있는 허용된 예약을 자동으로 선택합니다. 자동으로 선택된 예약에 용량이 없는 경우 Vertex AI는 일반 Google Cloud 리소스 풀을 사용합니다.
      • 특정 예약 선택: Vertex AI에서 특정 예약을 사용합니다. 선택한 예약에 여유 용량이 없으면 오류가 발생합니다.
      • 사용 안 함 (기본값): Vertex AI는 일반Google Cloud 리소스 풀을 사용합니다. 이 값은 예약을 지정하지 않는 것과 동일한 효과가 있습니다.
  5. 배포를 클릭합니다.

코드 샘플 보기

태스크별 솔루션 모델에 대한 대부분의 모델 카드에는 복사 및 테스트할 수 있는 코드 샘플이 포함되어 있습니다.

  1. Google Cloud 콘솔에서 Model Garden 페이지로 이동합니다.

    Model Garden으로 이동

  2. 코드 샘플을 보려는 지원되는 모델을 찾고 문서 탭을 클릭합니다.

  3. 샘플 코드가 해당 위치에 삽입된 문서 섹션으로 페이지가 스크롤됩니다.

비전 앱 만들기

적용 가능한 컴퓨터 비전 모델의 모델 카드는 비전 애플리케이션 만들기를 지원합니다.

  1. Google Cloud 콘솔에서 Model Garden 페이지로 이동합니다.

    Model Garden으로 이동

  2. 태스크별 솔루션 섹션에서 비전 애플리케이션을 만들기 위해 사용하려는 비전 모델을 찾고 세부정보 보기를 클릭합니다.

  3. 앱 빌드를 클릭합니다.

    Vertex AI Vision이 표시됩니다.

  4. 애플리케이션 이름에 애플리케이션 이름을 입력하고 계속을 클릭합니다.

  5. 요금제를 선택하고 만들기를 클릭합니다.

    컴퓨터 비전 애플리케이션 만들기를 계속 할 수 있는 Vertex AI Vision 스튜디오로 이동합니다.