Avant de commencer à utiliser Ray sur Vertex AI, suivez la procédure permettant de configurer votre projet Google et le SDK Vertex AI pour Python :
Suivez les étapes de la section Configurer un projet et un environnement de développement pour configurer la facturation de votre projet, installer gcloud CLI et activer l'API Vertex AI.
Prérequis : vous devez savoir comment développer des programmes à l'aide de Ray Open Source.
Le SDK Ray sur Vertex AI pour Python utilisé ici est une version du SDK Vertex AI pour Python qui inclut les fonctionnalités du client Ray, du connecteur BigQuery pour Ray, de la gestion des clusters Ray sur Vertex AI et des prédictions sur Vertex AI.
Si vous utilisez Ray sur Vertex AI dans la console Google Cloud, un notebook Colab Enterprise va vous guider tout au long du processus d'installation du SDK Vertex AI pour Python, une fois que vous aurez créé un cluster Ray.
Si vous utilisez Ray sur Vertex AI dans Vertex AI Workbench ou dans un autre environnement Python interactif, installez le SDK Vertex AI pour Python :
# The latest image in the Ray cluster includes Ray 2.33 # The latest supported Python version is Python 3.10. $ pip install google-cloud-aiplatform[ray]
Après avoir installé le SDK, redémarrez le noyau avant d'importer les packages.
(Facultatif) Si vous envisagez de lire des données depuis BigQuery, vous devez créer un ensemble de données BigQuery ou utiliser un ensemble de données existant.
(Facultatif) Pour limiter le risque d'exfiltration de données depuis Vertex AI, vous pouvez activer VPC Service Controls et spécifier un réseau VPC lorsque vous créez un cluster. Pour en savoir plus, consultez la page VPC Service Controls avec Vertex AI.
Si vous activez VPC Service Controls, vous ne pourrez pas accéder aux ressources situées en dehors du périmètre, telles que des fichiers hébergés dans un bucket Cloud Storage.
(Facultatif) Pour utiliser une image de conteneur personnalisé, hébergez-la sur Artifact Registry. Une image personnalisée vous permet d'ajouter des dépendances Python qui ne sont pas incluses dans les images de conteneurs prédéfinies. Pour créer des images personnalisées, consultez la section "Empaqueter votre logiciel" dans la documentation Docker.
(Facultatif) Si vous spécifiez un réseau VPC lors de la création d'un cluster Ray sur Vertex AI, il est recommandé de disposer d'un réseau VPC en mode automatique dans votre projet. Vous pouvez rencontrer des problèmes si vous utilisez un réseau VPC en mode personnalisé ou si vous utilisez plusieurs réseaux VPC pour créer des clusters dans le même projet.
Sécuriser vos clusters
Suivez les consignes et bonnes pratiques concernant Ray, y compris l'exécution de code de confiance sur des réseaux approuvés, afin de sécuriser vos charges de travail Ray. Le déploiement de ray.io dans vos instances cloud s'inscrit dans le cadre du modèle de responsabilité partagée.
Pour en savoir plus sur les bonnes pratiques de Google Cloud, consultez le bulletin de sécurité GCP-2024-020.
Pays acceptés
Le tableau Fonctionnalités disponibles pour l'entraînement de modèles personnalisés répertorie les emplacements disponibles pour Ray sur Vertex AI.