Vertex AI 기반 Ray 설정

Vertex AI에서 Ray를 시작하기 전에 Google 프로젝트 및 Vertex AI SDK for Python을 설정하는 단계를 수행합니다.

  1. 프로젝트 및 개발 환경 설정의 단계를 수행하여 프로젝트에 대한 결제를 설정하고 gcloud CLI를 설치한 후 Vertex AI API를 사용 설정합니다.

    Vertex AI API 사용 설정

  2. 기본 요건: 오픈소스 Ray를 사용하여 프로그램을 개발하는 방법을 알고 있어야 합니다.

  3. 여기에서 사용된 Vertex AI SDK for Python의 Ray는 Ray 클라이언트, Ray BigQuery 커넥터, Vertex AI 기반 Ray 클러스터 관리, Vertex AI의 예측 기능이 포함된 Vertex AI SDK for Python 버전입니다.

    • Google Cloud 콘솔에서 Vertex AI의 Ray를 사용하는 경우 Colab Enterprise 노트북은 Ray 클러스터를 만든 후 Vertex AI SDK for Python 설치 프로세스를 안내합니다.

    • Vertex AI Workbench 또는 다른 대화형 Python 환경에서 Vertex AI의 Ray를 사용하는 경우 Vertex AI SDK for Python을 설치합니다.

      # The latest image in the Ray cluster includes Ray 2.9
# The latest supported Python version is Python 3.10.
$ pip install google-cloud-aiplatform[ray]

      SDK를 설치한 후 패키지를 가져오기 전에 커널을 다시 시작합니다.

  4. (선택사항) BigQuery에서 읽으려면 새 BigQuery 데이터 세트를 만들거나 기존 데이터 세트를 사용해야 합니다.

  5. (선택사항) Vertex AI에서 데이터 무단 반출 위험을 완화하기 위해 클러스터를 만들 때 VPC 서비스 제어를 사용 설정하고 VPC 네트워크를 지정할 수 있습니다. 자세한 내용은 Vertex AI를 사용한 VPC 서비스 제어를 참조하세요.

    VPC 서비스 제어를 사용 설정하면 Cloud Storage 버킷의 파일과 같이 경계 외부의 리소스에 연결할 수 없습니다.

  6. (선택사항) 커스텀 컨테이너 이미지를 사용하려면 Artifact Registry에서 호스팅합니다. 커스텀 이미지를 사용하면 사전 빌드된 컨테이너 이미지에 포함되지 않은 Python 종속 항목을 추가할 수 있습니다. 커스텀 이미지를 빌드하려면 Docker 문서의 소프트웨어 패키징을 참조하세요.

  7. (선택사항) Vertex AI에 Ray 클러스터를 만들 때 VPC 네트워크를 지정하는 경우 프로젝트에 자동 모드 VPC 네트워크가 하나 있는 것이 좋습니다. 커스텀 모드 VPC 네트워크를 사용하거나 여러 VPC 네트워크를 사용하여 동일한 프로젝트에 클러스터를 만드는 경우 문제가 발생할 수 있습니다.

클러스터 보호

Ray 권장사항과 가이드라인을 준수하세요. 여기에는 Ray 워크로드 보안을 위해 신뢰할 수 있는 네트워크에서 신뢰할 수 있는 코드를 실행하는 것도 포함됩니다. 고객 클라우드 인스턴스에 ray.io를 배포하는 것은 공유 책임 모델에 포함됩니다.

Google Cloud 권장사항에 대한 자세한 내용은 GCP-2024-020 보안 게시판을 참조하세요.

지원되는 위치

커스텀 모델 학습용 특성 가용성 표에는 Vertex AI의 Ray에 사용할 수 있는 위치가 나와 있습니다.

다음 단계