設定 Ray on Vertex AI

如要查看 Ray on Vertex AI 叢集管理入門範例，請在下列任一環境中執行「Ray on Vertex AI cluster management」筆記本：

在 Colab 中開啟 | 在 Colab Enterprise 中開啟 | 在 Vertex AI Workbench 中開啟 | 在 GitHub 上查看

開始使用 Ray on Vertex AI 之前，請按照下列步驟設定 Google 專案和 Vertex AI SDK for Python：

1. 為專案設定帳單，安裝 gcloud CLI，並啟用 Vertex AI API。如要這麼做，請按照「設定專案和開發環境」中的步驟操作。

   啟用 Vertex AI API

2. 必要條件：您必須瞭解如何使用開放原始碼 Ray 開發程式。

3. 這裡使用的 Ray on Vertex AI SDK for Python 是 Vertex AI SDK for Python 的版本，其中包含 Ray Client、Ray BigQuery 連接器、Vertex AI 上的 Ray 叢集管理功能，以及 Vertex AI 上的預測功能。

   • 如果您在 Google Cloud 控制台中使用 Ray on Vertex AI，系統會在您建立 Ray 叢集後，透過 Colab Enterprise 筆記本引導您完成 Python 適用的 Vertex AI SDK 安裝程序。

   • 如果您在 Vertex AI Workbench 或其他互動式 Python 環境中使用 Ray on Vertex AI，請安裝 Python 適用的 Vertex AI SDK：

     # The latest image in the Ray cluster includes Ray 2.47
     # The latest supported Python version is Python 3.11.
     $ pip install google-cloud-aiplatform[ray]

     安裝 SDK 後，請先重新啟動核心，再匯入套件。

     注意： 如果您使用 Vertex AI Workbench 筆記本做為用戶端環境，並使用 Deep Learning VM 做為機器映像檔，系統會預先在 Python、TensorFlow Enterprise

4. 選用：如果您打算從 BigQuery 讀取資料，請建立新的 BigQuery 資料集，或使用現有資料集。如要這麼做，請參閱建立新的 BigQuery 資料集。

   注意： 如果您在 Vertex AI 的 Ray 叢集上執行與 BigQuery 等 Google 服務互動的程式碼，系統會透過 Vertex AI Custom Code Service Agent 進行驗證。

5. (選用) 如要降低 Vertex AI 資料竊取風險，請啟用 VPC Service Controls，並在建立叢集時指定 VPC 網路。詳情請參閱「搭配 Vertex AI 使用 VPC Service Controls」。

   啟用 VPC Service Controls 後，您就無法存取範圍外的資源，例如 Cloud Storage bucket 中的檔案。

   注意： 在 Vertex AI 上使用 Ray 時，每個專案最好都使用一個自動模式虛擬私有雲網路。如果您使用自訂模式的虛擬私有雲網路，或使用多個虛擬私有雲網路在同一個專案中建立叢集，可能會遇到問題。

6. (選用) 如要使用自訂容器映像檔，請在 Artifact Registry 託管該映像檔。自訂映像檔可讓您新增預先建構容器映像檔未提供的 Python 依附元件。如要建構自訂映像檔，請參閱 Docker 說明文件中的「封裝軟體」。

7. (選用) 如果您在 Vertex AI 上建立 Ray 叢集時指定虛擬私有雲網路，強烈建議您在專案中使用自動模式虛擬私有雲網路。系統不支援自訂模式虛擬私有雲網路，以及同一專案中的多個虛擬私有雲網路，否則可能會導致叢集建立失敗。

保護您的叢集

請遵循 Ray 最佳做法和指南，包括在受信任的網路上執行受信任的程式碼，確保 Ray 工作負載安全無虞。在雲端執行個體中部署 ray.io 時，適用共同責任模式。

如要進一步瞭解最佳做法，請參閱 GCP-2024-020 安全性公告。 Google Cloud

支援的地區

功能適用情形表列出了可使用 Ray on Vertex AI 進行自訂模型訓練的地區。

後續步驟

• 在 Vertex AI 上建立 Ray 叢集