커스텀 컨테이너 개요

커스텀 컨테이너는 학습 애플리케이션을 실행하기 위해 만드는 Docker 이미지입니다. 머신러닝(ML) 학습 작업을 커스텀 컨테이너에서 실행하면, Vertex AI에서는 달리 지원되지 않는 ML 프레임워크, ML 외의 종속 항목, 라이브러리, 바이너리를 사용할 수 있습니다.

컨테이너로 학습하는 방법

선택한 ML 프레임워크로 구현된 학습 애플리케이션은 학습 프로세스의 핵심 요소입니다.

  1. 선택한 ML 프레임워크를 사용하여 모델을 학습하는 애플리케이션을 만듭니다.

  2. 커스텀 컨테이너를 사용할지 여부를 결정합니다. 이미 종속 항목을 지원하는 사전 빌드된 컨테이너가 있을 수 있습니다. 그렇지 않으면 학습 작업을 위한 커스텀 컨테이너를 빌드해야 합니다. 커스텀 컨테이너에서 학습 애플리케이션과 모든 종속 항목을 학습 작업을 실행하는 데 사용되는 이미지에 사전 설치합니다.

  3. Vertex AI에서 액세스할 수 있는 소스에 학습 및 확인 데이터를 저장합니다. 인증을 간소화하고 지연 시간을 줄이려면 Vertex AI에 사용하는 것과 동일한 Google Cloud 프로젝트와 리전에 있는 Cloud Storage, Bigtable 또는 다른Google Cloud 스토리지 서비스에 데이터를 저장합니다. Vertex AI에서 데이터를 로드하는 방법에 대해 자세히 알아보세요.

  4. 애플리케이션을 실행할 수 있게 되면 Docker 이미지를 빌드하여 Artifact Registry 또는 Docker Hub에 푸시하여 Vertex AI가 레지스트리에 액세스할 수 있는지 확인해야 합니다.

  5. 커스텀 작업을 생성하거나 커스텀 학습 파이프라인을 생성하여 커스텀 학습 작업을 제출합니다.

  6. Vertex AI는 작업에 필요한 리소스를 설정합니다. 작업 구성을 기반으로 가상 머신(학습 인스턴스라고 함)을 하나 이상 할당합니다. 커스텀 학습 작업 제출 시 WorkerPoolSpec 객체의 일부로 지정하는 커스텀 컨테이너를 사용하여 학습 인스턴스를 설정합니다.

  7. Vertex AI는 학습 작업 생성 시 지정한 명령줄 인수를 통해 Docker 이미지를 실행합니다.

  8. 학습 작업이 성공하거나 복구 불가 오류가 발생하는 경우 Vertex AI는 모든 작업 프로세스를 중지하고 리소스를 삭제합니다.

커스텀 컨테이너의 이점

커스텀 컨테이너를 사용하면 애플리케이션에 필요한 모든 종속 항목을 지정하여 사전에 설치할 수 있습니다.

  • 더욱 빨라진 구동 시간. 종속 항목이 사전 설치되어 있는 커스텀 컨테이너를 사용하는 경우, 시작 시 종속 항목을 설치하기 위해 학습 애플리케이션이 필요로 하는 시간을 절약할 수 있습니다.
  • 원하는 ML 프레임워크 사용. 사용하려는 ML 프레임워크로 Vertex AI 사전 빌드 컨테이너를 찾을 수 없다면 선택한 프레임워크로 커스텀 컨테이너를 빌드하고 이를 사용하여 Vertex AI에서 작업을 실행하면 됩니다. 예를 들어 고객 컨테이너를 사용하여 PyTorch로 학습시킬 수 있습니다.
  • 분산 학습에 대한 지원 확대. 커스텀 컨테이너를 사용하면 ML 프레임워크를 사용하여 분산 학습을 수행할 수 있습니다.
  • 최신 버전 사용. ML 프레임워크의 최신 빌드 또는 부 버전을 사용할 수도 있습니다. 예를 들어 커스텀 컨테이너를 빌드하여 tf-nightly로 학습시킬 수 있습니다.

커스텀 컨테이너로 초매개변수 미세 조정

Vertex AI에서 초매개변수 조정을 수행하려면 목표 측정항목과 각 측정항목을 최소화 또는 최대화할지 지정합니다. 예를 들어 모델 정확성을 최대화하거나 모델 손실을 최소화하려 할 수 있습니다. 또한 각 초매개변수에 허용되는 값의 범위와 함께 조정할 초매개변수를 나열합니다. Vertex AI는 학습 애플리케이션을 여러 번 시도하고, 시도가 끝날 때마다 초매개변수를 추적 및 조정합니다. 초매개변수 미세 조정 작업이 완료되면 Vertex AI는 가장 효과적인 초매개변수 구성 값과 각 시도 결과의 요약을 보고합니다.

커스텀 컨테이너로 초매개변수를 조정하려면 다음과 같은 조정이 필요합니다.

  • Dockerfile: cloudml-hypertune을 설치합니다.
  • 학습 코드:
    • cloudml-hypertune을 사용하고 도우미 함수 report_hyperparameter_tuning_metric을 호출하여 각 시도 결과를 보고합니다.
    • 각 초매개변수에 대한 명령줄 인수를 추가하고 인수 파싱을 argparse와 같은 인수 파서로 처리합니다.

커스텀 컨테이너를 사용하는 초매개변수 조정 작업을 구성하는 방법 또는 Vertex AI의 초매개변수 조정 방식을 자세히 알아보세요.

커스텀 컨테이너의 GPU

GPU 학습을 위해서는 커스텀 컨테이너가 몇 가지 특수한 요구사항을 충족해야 합니다. CPU를 사용한 학습에 사용하는 Docker 이미지와 다른 Docker 이미지를 빌드해야 합니다.

  • Docker 이미지에 CUDA 도구와 cuDNN을 사전에 설치합니다. GPU를 지원하는 커스텀 컨테이너를 빌드하는 권장 방법은 nvidia/cuda 이미지를 커스텀 컨테이너의 기본 이미지로 사용하는 것입니다. nvidia/cuda 컨테이너 이미지에는 CUDA 도구와 cuDNN이 사전 설치되어 있고 관련 환경 변수를 올바르게 설정하는 데 유용합니다.
  • Docker 이미지에 필요한 ML 프레임워크 및 기타 종속 항목과 함께 학습 애플리케이션을 설치합니다.

GPU를 사용한 학습을 위한 Dockerfile 예를 참조하세요.

다음 단계