모델 조정

모델 조정

이 페이지에서는 Colab Enterprise의 측면 패널을 사용하여 Vertex AI와 상호작용하여 모델을 조정하는 방법을 보여줍니다.

Colab Enterprise 노트북에서 코드를 실행하여 Google Cloud 서비스 및 API에 액세스하려면 Google 계정과 연결된 사용자 인증 정보를 사용하면 됩니다. 자세한 내용은 Google Cloud 서비스 및 API에 액세스를 참고하세요.

측면 패널은 Colab Enterprise 인터페이스를 벗어나지 않고 Vertex AI와 상호작용하여 모델을 조정하는 또 다른 방법입니다.

노트북을 하나 이상 열어두면 Colab Enterprise 노트북 페이지에 측면 패널이 표시됩니다.

Vertex AI에서 모델 조정

모델 조정은 대규모 모델을 태스크에 맞게 맞춤설정할 수 있는 효과적인 방법입니다. 이는 모델의 품질과 효율성을 개선하기 위한 핵심 단계입니다. 모델 조정은 다음과 같은 이점을 제공합니다.

• 특정 태스크의 품질 개선
• 모델 안정성 향상
• 짧아진 프롬프트로 인한 추론 지연 시간 단축 및 비용 절감

Gemini용 Vertex AI 모델 조정에 관한 개요는 조정 소개를 참고하세요.

시작하기 전에

1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

3. Make sure that billing is enabled for your Google Cloud project.

4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

   Enable the APIs

5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

6. Make sure that billing is enabled for your Google Cloud project.

7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

   Enable the APIs

필요한 역할

사용자 계정에 Colab Enterprise 노트북에서 측면 패널을 사용하는 데 필요한 권한이 있는지 확인하려면 관리자에게 사용자 계정에 프로젝트에 대한 다음 IAM 역할을 부여해 달라고 요청하세요.

• Colab Enterprise 사용자 (roles/aiplatform.colabEnterpriseUser)
• Vertex AI 사용자(roles/aiplatform.user)

역할 부여에 대한 자세한 내용은 프로젝트, 폴더, 조직에 대한 액세스 관리를 참조하세요.

관리자는 커스텀 역할이나 다른 사전 정의된 역할을 통해 사용자 계정에 필요한 권한을 부여할 수도 있습니다.

필수 역할 하나 이상에 dataform.repositories.list 권한이 포함되어 있습니다. 프로젝트에서 dataform.repositories.list 권한이나 코드 생성자(roles/dataform.codeCreator) 역할을 부여받은 사용자는 Dataform API 또는 Dataform 명령줄 인터페이스(CLI)를 사용하여 해당 프로젝트의 코드 애셋 이름을 나열할 수 있습니다. 관리자가 아닌 사용자가 BigQuery Studio를 사용할 때 직접 만들었거나 공유받은 코드 애셋만 볼 수 있습니다.

모델 조정

Colab Enterprise의 측면 패널을 사용하여 Vertex AI에서 모델을 조정할 수 있습니다.

1. Google Cloud 콘솔에서 Colab Enterprise Notebooks 페이지로 이동합니다.

   Notebooks로 이동

2. 리전 메뉴에서 노트북이 포함된 리전을 선택합니다.

3. 내 노트북 탭에서 열려는 노트북을 클릭합니다. 노트북을 만들지 않았으면 노트북을 만듭니다.

4. 노트북 오른쪽의 측면 패널에서  조정 버튼을 클릭합니다.

   측면 패널에서 조정 탭이 펼쳐집니다.

5. Gemini 모델 조정 버튼을 클릭합니다.

   Colab Enterprise는 Gemini 모델을 조정하기 위한 코드 셀을 노트북에 추가합니다.

6. 노트북에서 매개변수 값을 저장하는 코드 셀을 찾습니다. 이러한 매개변수를 사용하여 Vertex AI와 상호작용할 수 있습니다.

7. 다음 매개변수의 값을 업데이트합니다.

   • PROJECT_ID: 노트북이 있는 프로젝트의 ID입니다.
   • REGION: 노트북이 있는 리전입니다.
   • TUNED_MODEL_DISPLAY_NAME: 조정된 모델의 이름입니다.

8. 다음 코드 셀에서 모델 조정 매개변수를 업데이트합니다.

   • source_model: 사용할 Gemini 모델입니다(예: gemini-1.0-pro-002).
   • train_dataset: 학습 데이터 세트의 URL입니다.
   • validation_dataset: 유효성 검사 데이터 세트의 URL입니다.
   • 필요에 따라 나머지 매개변수를 조정합니다.

9. 측면 패널이 노트북에 추가한 코드 셀을 실행합니다.

10. 마지막 코드 셀이 실행된 후 표시되는  조정 작업 보기 버튼을 클릭합니다.

11. 측면 패널에는 모델 조정 작업에 대한 정보가 표시됩니다.

    • 측정항목이 준비되면 모니터 탭에 조정 측정항목이 표시됩니다.
    • 데이터 세트 탭에는 데이터 세트가 처리된 후 데이터 세트에 관한 요약 및 측정항목이 표시됩니다.
    • 세부정보 탭에는 조정 방법, 사용한 기본 모델 (소스 모델)과 같은 조정 작업에 관한 정보가 표시됩니다.

12. 조정 작업이 완료되면 조정 세부정보 탭에서 모델을 테스트할 수 있는 페이지로 바로 이동할 수 있습니다. 테스트를 클릭합니다.

    Google Cloud 콘솔이 Vertex AI 텍스트 채팅 페이지로 열리며 여기에서 모델을 테스트할 수 있습니다.

조정 작업 세부정보 보기

Colab Enterprise에서 조정 작업을 만들고 실행하지 않은 경우에도 조정 작업의 세부정보를 볼 수 있습니다. Colab Enterprise의 측면 패널을 사용하여 조정 작업의 세부정보를 볼 수 있습니다.

1. Google Cloud 콘솔에서 Colab Enterprise Notebooks 페이지로 이동합니다.

   Notebooks로 이동

2. 리전 메뉴에서 노트북이 포함된 리전을 선택합니다.

3. 내 노트북 탭에서 열려는 노트북을 클릭합니다. 노트북을 만들지 않았으면 노트북을 만듭니다.

4. 노트북 오른쪽의 측면 패널에서  조정 버튼을 클릭합니다.

   측면 패널에서 조정 탭이 펼쳐집니다.

5. 조정 작업 세부정보 보기 버튼을 클릭합니다.

   Colab Enterprise는 노트북에 튜닝 작업의 세부정보를 가져오는 코드 셀을 추가합니다.

6. 노트북에서 매개변수 값을 저장하는 코드 셀을 찾습니다. 이러한 매개변수를 사용하여 Vertex AI와 상호작용할 수 있습니다.

7. 다음 매개변수의 값을 업데이트합니다.

   • PROJECT_ID: 노트북이 있는 프로젝트의 ID입니다.
   • REGION: 노트북이 있는 리전입니다.
   • TUNING_JOB_ID: Vertex AI 조정 작업의 ID입니다.

8. 측면 패널이 노트북에 추가한 코드 셀을 실행합니다.

9. 마지막 코드 셀이 실행된 후 표시되는  조정 작업 보기 버튼을 클릭합니다.

10. 측면 패널에는 모델 조정 작업에 대한 정보가 표시됩니다.

    • 측정항목이 준비되면 모니터 탭에 조정 측정항목이 표시됩니다.
    • 데이터 세트 탭에는 데이터 세트가 처리된 후 데이터 세트에 관한 요약 및 측정항목이 표시됩니다.
    • 세부정보 탭에는 조정 방법, 사용한 기본 모델 (소스 모델)과 같은 조정 작업에 관한 정보가 표시됩니다.

다음 단계

• Vertex AI의 모델 조정에 대해 자세히 알아보세요.

• 모델 조정 매개변수에 대해 자세히 알아보려면 지도 미세 조정을 사용하여 Gemini 모델 조정을 참고하세요.