Ray ist ein Open-Source-Framework zur Skalierung von KI- und Python-Anwendungen. Ray bietet die Infrastruktur für verteiltes Computing und parallele Verarbeitung für Ihren ML-Workflow („maschinelles Lernen“).
Wenn Sie Ray bereits verwenden, können Sie denselben Open-Source-Ray-Code verwenden, um Programme zu schreiben und Anwendungen mit minimalen Änderungen in Vertex AI zu entwickeln. Anschließend können Sie die Einbindungen von Vertex AI in andere Google Cloud-Dienste wie Vertex AI-Vorhersagen und BigQuery als Teil Ihres ML-Workflows verwenden.
Wenn Sie Vertex AI bereits verwenden und eine einfachere Methode zum Skalieren von Rechenressourcen benötigen, können Sie die Leistung der Trainings-, Hyperparameter-Abstimmung, Vorhersagen und Onlinebereitstellungsschritte mit Ray-Code optimieren.
Workflow für die Verwendung von Ray in Vertex AI
So verwenden Sie Ray in Vertex AI:
| Schritte | Beschreibung |
|---|---|
| 1. Einrichtung für Ray in Vertex AI | Richten Sie Ihr Google-Projekt ein, installieren Sie die Version des Vertex AI SDK für Python, die die Funktionen des Ray-Clients enthält, und richten Sie ein VPC-Peering-Netzwerk ein. |
| 2. Ray-Cluster in Vertex AI erstellen | Ray-Cluster in Vertex AI erstellen. |
| 3. Ray-Anwendung in Vertex AI entwickeln | Stellen Sie eine Verbindung zu einem Ray-Cluster in Vertex AI her und entwickeln Sie eine Anwendung. |
| 4. (Optional) Ray in Vertex AI mit BigQuery verwenden | Daten mit BigQuery lesen, schreiben und transformieren |
| 5. (Optional) Modell in Vertex AI bereitstellen und Vorhersagen abrufen | Ein Modell auf einem Vertex AI-Online-Endpunkt bereitstellen und Vorhersagen abrufen. |
| 6. Logs für Ihren Ray-Cluster in Vertex AI aufrufen | Generierte Logs in Cloud Logging ansehen. |
| 7. Ray-Cluster in Vertex AI löschen | Löschen Sie einen Ray-Cluster in Vertex AI, um unnötige Kosten zu vermeiden. |
Architektur
Das folgende Diagramm zeigt die Architektur und den Workflow für Ray on Vertex AI nach der Einrichtung Ihres Google Cloud-Projekts und Ihres VPC-Netzwerks:
Erstellen Sie den Ray-Cluster in Vertex AI mit den folgenden Optionen:
1a. Verwenden Sie die Console, um den Ray-Cluster in Vertex AI zu erstellen.
1b. Erstellen Sie den Ray-Cluster in Vertex AI mit dem Vertex AI SDK für Python.
Stellen Sie mit den folgenden Optionen über ein VPC-Peering-Netzwerk eine Verbindung zum Ray-Cluster in Vertex AI her:
2a. Verwenden Sie Colab Enterprise in der Console.
2b. Vertex AI Workbench-Notebook verwenden.
Entwickeln Sie Ihre Anwendung und trainieren Sie Ihr Modell im Ray-Cluster in Vertex AI mit den folgenden Optionen:
Verwenden Sie das Vertex AI SDK für Python in Ihrer bevorzugten Umgebung (Colab Enterprise oder Vertex AI Workbench-Notebook).
Schreiben Sie ein Python-Script in Ihrer bevorzugten Umgebung. Senden Sie mit dem Vertex AI SDK für Python, der Ray Job CLI oder dem Ray Dashboard einen Ray-Job an den Ray-Cluster in Vertex AI.
Stellen Sie das trainierte Modell auf einem Vertex AI-Online-Endpunkt für Vorhersagen bereit.
Verwenden Sie BigQuery, um Ihre Daten zu verwalten.
Preise
Die Preise für Ray on Vertex AI werden so berechnet:
Die verwendeten Rechenressourcen werden basierend auf der Maschinenkonfiguration abgerechnet, die Sie beim Erstellen Ihres Ray-Clusters in Vertex AI auswählen. Während der Vorschau wird die Nutzung von Ray on Vertex AI zum gleichen Preis wie für benutzerdefiniert trainiert Modelle abgerechnet. Nach allgemeiner Verfügbarkeit (General Availability, GA) wird der Preis erhöht, um die Ray on Vertex AI-Preise widerzuspiegeln. Sie werden über die Preisänderung benachrichtigt, wenn Ray on Vertex AI allgemein verfügbar ist.
Wenn Sie Aufgaben mit dem Ray-Cluster in Vertex AI ausführen, werden Logs automatisch generiert und auf Basis der Cloud Logging-Preise berechnet.
Wenn Sie Ihr Modell auf einem Endpunkt für Onlinevorhersagen bereitstellen, lesen Sie den Abschnitt „Vorhersage und Erläuterung“ auf der Vertex AI-Preisseite.
Wenn Sie BigQuery mit Ray on Vertex AI verwenden, finden Sie weitere Informationen unter BigQuery-Preise.