Puedes usar la consola de Google Cloud o el SDK de Vertex AI para Python con el fin de crear un clúster de Ray. Un clúster puede tener hasta 2,000 nodos. Existe un límite superior de 1,000 nodos dentro de un grupo de trabajadores. No hay límite para la cantidad de grupos de trabajadores, pero una gran cantidad, como por ejemplo 1,000 grupos de trabajadores con un nodo cada uno, puede afectar de forma negativa el rendimiento del clúster.
Antes de comenzar, asegúrate de leer el resumen de Ray en Vertex AI y de configurar todas las herramientas de requisitos previos que necesitas.
Un clúster de Ray en Vertex AI puede tardar entre 10 y 20 minutos en iniciarse después de crearlo.
Console
En la consola de Google Cloud, ve a la página Ray en Vertex AI.
Haz clic en Crear clúster para abrir el panel Crear clúster.
Para cada paso del panel Crear clúster, revisa o reemplaza la información del clúster predeterminada. Haz clic en Continuar para completar cada paso:
En Nombre y región, especifica un Nombre y elige una región para tu clúster.
En Configuración de Compute, especifica la configuración del nodo principal del clúster de Ray en Vertex AI, incluidos el tipo de máquina, el tipo y el recuento de aceleradores, el tipo y el tamaño del disco y el recuento de réplicas. De forma opcional, puedes agregar un URI de imagen personalizada para especificar una imagen de contenedor personalizada con el fin de agregar dependencias de Python no proporcionadas por la imagen de contenedor predeterminada. Consulta Imagen personalizada.
En Opciones avanzadas, puedes hacer lo siguiente:
- Especifica tu propia clave de encriptación.
- Especifica una cuenta de servicio personalizada.
- Si no vas a usar la supervisión de modelos, inhabilita la recopilación de métricas.
(Opcional) Si deseas configurar un extremo privado en lugar de un extremo público para tu clúster, especifica una red de VPC que se usará con Ray en Vertex AI. Para obtener más información, consulta Conectividad privada y pública.
Si no configuraste una conexión para tu red de VPC, haz clic en Configurar conexión. En el panel Crear una conexión de acceso a servicios privados, completa y haz clic en Continuar para cada uno de los siguientes pasos:
Habilita la AAPI de Service Networking.
En Asigna un rango de IP, puedes seleccionar, crear o permitir que Google asigne un rango de IP de forma automática.
En Crear una conexión, revisa la información sobre Red y Rango de IP asignado.
Haz clic en Crear conexión (Create connection).
Haz clic en Crear.
SDK de Ray en Vertex AI
Desde un entorno interactivo de Python, usa lo siguiente para crear el clúster de Ray en Vertex AI:
import ray import vertex_ray from google.cloud import aiplatform from vertex_ray import Resources # Define a default CPU cluster, machine_type is n1-standard-16, 1 head node and 1 worker node head_node_type = Resources() worker_node_types = [Resources()] # Or define a GPU cluster. head_node_type = Resources( machine_type="n1-standard-16", node_count=1, custom_image="us-docker.pkg.dev/my-project/ray-custom.2-9.py310:latest", # Optional. When not specified, a prebuilt image is used. ) worker_node_types = [Resources( machine_type="n1-standard-16", node_count=2, # Must be >= 1 accelerator_type="NVIDIA_TESLA_T4", accelerator_count=1, custom_image="us-docker.pkg.dev/my-project/ray-custom.2-9.py310:latest", # When not specified, a prebuilt image is used. )] aiplatform.init() # Initialize Vertex AI to retrieve projects for downstream operations. # Create the Ray cluster on Vertex AI CLUSTER_RESOURCE_NAME = vertex_ray.create_ray_cluster( head_node_type=head_node_type, network=NETWORK, #Optional worker_node_types=worker_node_types, python_version="3.10", # Optional ray_version="2.9", # Optional cluster_name=CLUSTER_NAME, # Optional service_account=SERVICE_ACCOUNT, # Optional enable_metrics_collection=True, # Optional. Enable metrics collection for monitoring. labels=LABELS, # Optional. )
Aquí:
CLUSTER_NAME: Es un nombre para el clúster de Ray en Vertex AI que debe ser único en todo el proyecto.
NETWORK: (Opcional) Nombre completo de tu red de VPC, en el formato
projects/PROJECT_ID/global/networks/VPC_NAME. Con el fin de establecer un extremo privado en lugar de un extremo público para tu clúster, especifica una red de VPC que se usará con Ray en Vertex AI. Para obtener más información, consulta Conectividad privada y pública.VPC_NAME: (Opcional) La VPC en la que opera la VM.
PROJECT_ID es el ID del proyecto de Google Cloud. Puedes encontrar el ID del proyecto en la página de bienvenida de la consola de Google Cloud.
SERVICE_ACCOUNT: (Opcional) La cuenta de servicio para ejecutar aplicaciones de Ray en el clúster. Se deben otorgar los roles obligatorios.
LABELS: (Opcional) Las etiquetas con metadatos definidos por el usuario que se usan para organizar los clústeres de Ray. Las claves y valores de etiquetas no pueden tener más de 64 caracteres (puntos de código Unicode) y solo pueden contener letras en minúscula, caracteres numéricos, guiones bajos y guiones. Se permite el uso de caracteres internacionales. Consulta https://goo.gl/xmQnxf para obtener más información y ejemplos de etiquetas.
Deberías ver el siguiente resultado hasta que el estado cambie a RUNNING:
[Ray on Vertex AI]: Cluster State = State.PROVISIONING Waiting for cluster provisioning; attempt 1; sleeping for 0:02:30 seconds ... [Ray on Vertex AI]: Cluster State = State.RUNNING
Ten en cuenta lo siguiente:
El primer nodo se usa como el nodo principal.
Los tipos de máquinas de TPU no son compatibles.
Imagen personalizada (opcional)
Las imágenes compiladas previamente se alinean con la mayoría de los casos prácticos. Si deseas compilar tu propia imagen, te recomendamos que uses las imágenes compiladas previamente de Ray en Vertex como imagen base. Consulta la documentación de Docker para saber cómo compilar tus imágenes a partir de una imagen base.
Estas imágenes base incluyen una instalación de Python, Ubuntu y Ray. También incluyen dependencias como las siguientes:
- python-json-logger
- google-cloud-resource-manager
- ca-certificates-java
- libatlas-base-dev
- liblapack-dev
- g++, libio-all-perl
- libyaml-0-2.
- rsync
Si deseas compilar tu propia imagen sin nuestra imagen base (avanzado), asegúrate de que tu imagen incluye lo siguiente:
- Ray 2.9.3
- Python 3.10
- python-json-logger==2.0.7
Conectividad privada y pública
De forma predeterminada, Ray en Vertex AI crea un extremo público y seguro para el desarrollo interactivo con el cliente de Ray en clústeres de Ray en Vertex AI. Se recomienda que uses la conectividad pública para casos de desarrollo o efímeros. Se puede acceder a este extremo público a través de Internet. Solo los usuarios autorizados que tienen, como mínimo, permisos de rol de usuario de Vertex AI en el proyecto de usuario del clúster de Ray pueden acceder al clúster.
Si necesitas una conexión privada a tu clúster o si usas los Controles del servicio de VPC, el intercambio de tráfico de VPC es compatible con los clústeres de Ray en Vertex AI. Solo se puede acceder a los clústeres con un extremo privado desde un cliente dentro de una red de VPC que intercambia tráfico con Vertex AI.
A fin de configurar la conectividad privada con el intercambio de tráfico de VPC para Ray en Vertex AI, selecciona una red de VPC cuando crees tu clúster. La red de VPC requiere una conexión de servicios privados entre tu red de VPC y Vertex AI. Si usas Ray en Vertex AI en la consola, puedes configurar tu conexión de acceso de servicios privados cuando crees el clúster.
Después de crear el clúster de Ray en Vertex AI, puedes conectarte al nodo principal con el SDK de Vertex AI para Python. El entorno de conexión, como una VM de Compute Engine o una instancia de Vertex AI Workbench, debe estar en la red de VPC que intercambia tráfico con Vertex AI. Ten en cuenta que una conexión de servicios privados tiene una cantidad limitada de direcciones IP, lo que puede provocar el agotamiento de la dirección IP. Por lo tanto, se recomienda usar conexiones privadas para clústeres de larga duración.