Ray는 AI 및 Python 애플리케이션을 확장하기 위한 오픈소스 프레임워크입니다. Ray는 머신러닝(ML) 워크플로에 대해 분산형 계산과 병렬 처리를 수행하기 위한 인프라를 제공합니다.
이미 Ray를 사용하고 있으면 같은 오픈소스 Ray 코드를 사용하여 프로그램을 작성하고 최소한의 변경으로 Vertex AI에서 애플리케이션을 개발할 수 있습니다. 그런 다음 Vertex AI를 머신러닝 워크플로의 일부로 Vertex AI Prediction 및 BigQuery와 같은 다른 Google Cloud 서비스와 통합할 수 있습니다.
이미 Vertex AI를 사용 중이고 컴퓨팅 리소스를 확장하는 간단한 방법이 필요한 경우 Ray 코드를 사용하여 학습, 초매개변수 조정, 예측, 온라인 서빙 단계의 성능을 최적화할 수 있습니다.
Vertex AI에서 Ray를 사용하기 위한 워크플로
Vertex AI에서 Ray를 사용하는 프로세스는 다음과 같습니다.
| 단계 | 설명 |
|---|---|
| 1. Vertex AI의 Ray 설정 | Google 프로젝트를 설정하고 Ray 클라이언트의 기능이 포함된 Python용 Vertex AI SDK 버전을 설치하고 VPC 피어링 네트워크를 설정합니다. |
| 2. Vertex AI에 Ray 클러스터 만들기 | Vertex AI에 Ray 클러스터를 만듭니다. |
| 3. Vertex AI에서 Ray 애플리케이션 개발 | Vertex AI의 Ray 클러스터에 연결하고 애플리케이션을 개발합니다. |
| 4. (선택사항) BigQuery와 함께 Vertex AI에서 Ray 사용 | BigQuery로 데이터를 읽고 쓰고 변환합니다. |
| 5. (선택사항) Vertex AI에 모델 배포 및 예측 가져오기 | 모델을 Vertex AI 온라인 엔드포인트에 배포하고 예측을 가져옵니다. |
| 6. (선택사항) Vertex AI의 Ray 클러스터 로그 보기 | Cloud Logging에서 생성된 로그를 봅니다. |
| 7. Vertex AI에서 Ray 클러스터 삭제 | 불필요한 요금 청구를 방지하기 위해 Vertex AI에서 Ray 클러스터를 삭제합니다. |
아키텍처
다음 다이어그램에서는 Google Cloud 프로젝트와 VPC 네트워크를 설정한 후 Vertex AI의 Ray에 대한 아키텍처와 워크플로를 보여줍니다.
다음 옵션을 사용하여 Vertex AI에 Ray 클러스터를 만듭니다.
1a. 콘솔을 사용하여 Vertex AI에 Ray 클러스터를 만듭니다.
1b. Python용 Vertex AI SDK를 사용하여 Vertex AI에 Ray 클러스터를 만듭니다.
다음 옵션을 사용하여 VPC 피어링된 네트워크를 통해 Vertex AI의 Ray 클러스터에 연결합니다.
2a. 콘솔에서 Colab Enterprise를 사용합니다.
2b. Vertex AI Workbench 노트북을 사용합니다.
다음 옵션을 사용하여 애플리케이션을 개발하고 Vertex AI의 Ray 클러스터에서 모델을 학습시킵니다.
원하는 환경(Colab Enterprise 또는 Vertex AI Workbench 노트북)에서 Python용 Vertex AI SDK를 사용합니다.
원하는 환경을 사용하여 Python 스크립트를 작성합니다. Python용 Vertex AI SDK, Ray Job CLI 또는 Ray 대시보드를 사용하여 Ray 작업을 Vertex AI의 Ray 클러스터에 제출합니다.
학습된 모델을 온라인 Vertex AI 엔드포인트에 배포하여 예측합니다.
BigQuery를 사용하여 데이터를 관리합니다.
가격 책정
Vertex AI의 Ray 가격은 다음과 같이 계산됩니다.
사용하는 컴퓨팅 리소스 요금은 Vertex AI의 Ray 클러스터를 만들 때 선택한 머신 구성에 따라 청구됩니다. 미리보기 중에는 Vertex AI의 Ray 사용 요금은 커스텀 학습 모델과 동일한 비율로 청구됩니다. 정식 버전(GA) 이후에는 Vertex AI의 Ray 가격 책정에 맞게 가격이 인상됩니다. Vertex AI의 Ray가 GA로 전환되면 가격 책정 변경 알림이 전송됩니다.
Vertex AI의 Ray 클러스터를 사용하여 태스크를 수행하면 로그가 자동으로 생성되고 Cloud Logging 가격 책정에 따라 요금이 청구됩니다.
온라인 예측을 위해 모델을 엔드포인트에 배포하는 경우 Vertex AI 가격 책정 페이지의 '예측 및 설명' 섹션을 참조하세요.
Vertex AI의 Ray와 함께 BigQuery를 사용하는 경우 BigQuery 가격 책정을 참조하세요.