Bevor Sie Ray on Vertex AI verwenden, führen Sie die Schritte zum Einrichten Ihres Google-Projekts und des Vertex AI SDK für Python aus:
Führen Sie die Schritte unter Projekt und Entwicklungsumgebung einrichten aus, um die Abrechnung für Ihr Projekt einzurichten. Installieren Sie die gcloud CLI und aktivieren Sie die Vertex AI API.
Voraussetzung: Sie sollten wissen, wie Programme mit Open-Source-Ray entwickelt werden.
Das hier verwendete Ray on Vertex AI SDK für Python ist eine Version des Vertex AI SDK für Python, die die Funktionen von Ray Client, Ray BigQuery Connector, der Ray-Clusterverwaltung in Vertex AI und Vorhersagen in Vertex AI umfasst.
Wenn Sie Ray on Vertex AI in der Google Cloud Console verwenden, führt Sie ein Colab Enterprise-Notebook durch den Installationsprozess von Vertex AI SDK für Python, nachdem Sie einen Ray-Cluster erstellt haben:
Wenn Sie Ray on Vertex AI in der Vertex AI Workbench oder einer anderen interaktiven Python-Umgebung verwenden, installieren Sie das Vertex AI SDK für Python:
# The latest image in the Ray cluster includes Ray 2.33 # The latest supported Python version is Python 3.10. $ pip install google-cloud-aiplatform[ray]
Starten Sie nach der Installation des SDK den Kernel neu, bevor Sie Pakete importieren.
Optional: Wenn Sie Daten aus BigQuery lesen möchten, müssen Sie ein neues BigQuery-Dataset erstellen oder ein vorhandenes Dataset verwenden.
(Optional) Um das Risiko einer Daten-Exfiltration aus Vertex AI zu minimieren, können Sie VPC Service Controls aktivieren und beim Erstellen eines Clusters ein VPC-Netzwerk angeben. Weitere Informationen finden Sie unter VPC Service Controls mit Vertex AI.
Wenn Sie VPC Service Controls aktivieren, können Sie keine Ressourcen außerhalb des Perimeters erreichen, z. B. Dateien in einem Cloud Storage-Bucket.
(Optional) Wenn Sie ein benutzerdefiniertes Container-Image verwenden möchten, hosten Sie es in Artifact Registry. Mit einem benutzerdefinierten Image können Sie Python-Abhängigkeiten hinzufügen, die nicht in den vordefinierten Container-Images enthalten sind. Informationen zum Erstellen benutzerdefinierter Images finden Sie in der Docker-Dokumentation unter „Software verpacken“.
(Optional) Wenn Sie beim Erstellen eines Ray-Clusters in Vertex AI ein VPC-Netzwerk angeben, empfehlen wir, in Ihrem Projekt ein VPC-Netzwerk im automatischen Modus zu haben. Wenn Sie ein VPC-Netzwerk im benutzerdefinierten Modus oder mehrere VPC-Netzwerke verwenden, um Cluster im selben Projekt zu erstellen, können Probleme auftreten.
Cluster sichern
Folgen Sie den Best Practices und Richtlinien von Ray, einschließlich der Ausführung von vertrauenswürdigem Code in vertrauenswürdigen Netzwerken, um Ihre Ray-Arbeitslasten zu schützen. Die Bereitstellung von ray.io in Ihren Cloudinstanzen fällt unter das Modell der gemeinsamen Verantwortung.
Weitere Informationen zu den Best Practices von Google Cloud finden Sie im Sicherheitsbulletin GCP-2024-020.
Unterstützte Standorte
In der Tabelle Featureverfügbarkeit für benutzerdefiniertes Modelltraining werden die verfügbaren Standorte für Ray on Vertex AI aufgeführt.