Configuração para o Ray na Vertex AI

Para conferir um exemplo de como começar a usar o Ray no gerenciamento de clusters da Vertex AI, execute o notebook do Jupyter "Ray no gerenciamento de clusters da Vertex AI" em um dos seguintes ambientes:

Abrir no Colab | Abrir no Colab Enterprise | Abrir nos notebooks gerenciados pelo usuário do Vertex AI Workbench | Conferir no GitHub

Antes de começar a usar o Ray na Vertex AI, siga as etapas para configurar o projeto do Google e o SDK da Vertex AI para Python:

1. Siga as etapas em Configurar um projeto e um ambiente de desenvolvimento para configurar o faturamento do projeto, instalar a gcloud CLI e ativar a API Vertex AI.

   Ativar a API Vertex AI

2. Pré-requisitos: você precisa saber como desenvolver programas usando o Ray de código aberto.

3. O Ray no SDK da Vertex AI para Python usado aqui é uma versão do SDK da Vertex AI para Python que inclui a funcionalidade do Ray Client, conector do Ray no BigQuery, Ray gerenciamento de clusters e previsões na Vertex AI.

   • Se você estiver usando o Ray na Vertex AI no console do Google Cloud, um notebook do Colab Enterprise vai orientar você pelo processo de instalação do SDK da Vertex AI para Python depois que você criar um cluster do Ray.

   • Se você estiver usando o Ray na Vertex AI no Vertex AI Workbench ou em outro ambiente Python interativo, instale o SDK da Vertex AI para Python:

     # The latest image in the Ray cluster includes Ray 2.9
     # The latest supported Python version is Python 3.10.
     $ pip install google-cloud-aiplatform[ray]

     Depois de instalar o SDK, reinicie o kernel antes de importar pacotes.

     Observação: se você usar um notebook do Vertex AI Workbench como o ambiente do cliente e a VM de aprendizado profundo como a imagem da máquina, o Ray e o SDK da Vertex AI para Python são pré-instalados no Python, TensorFlow Enterprise

4. (Opcional) Se você pretende fazer leituras pelo BigQuery, crie um novo conjunto de dados do BigQuery ou use um que já existe.

   Observação: se você executar um código no cluster do Ray na da Vertex AI que interaja com serviços do Google, como o BigQuery, o agente de serviço de código personalizado da Vertex AI será usado para a autenticação.

5. (Opcional) Para reduzir o risco de exfiltração de dados da Vertex AI, ative o VPC Service Controls e especifique uma rede VPC ao criar um cluster. Para mais informações, consulte VPC Service Controls com a Vertex AI.

   Se você ativar o VPC Service Controls, não será possível acessar recursos fora do perímetro, como arquivos em um bucket do Cloud Storage.

   Observação: a melhor configuração para o Ray na Vertex AI é uma rede VPC de modo automático por projeto. Talvez você encontre problemas se usar uma rede VPC de modo personalizado ou várias redes VPC para criar clusters no mesmo projeto.

6. (Opcional) Para usar uma imagem de contêiner personalizada, hospede-a no Artifact Registry. Uma imagem personalizada permite adicionar dependências do Python que não estão incluídas nas imagens de contêiner pré-criadas. Para criar imagens personalizadas, consulte Como empacotar o software na documentação do Docker.

7. Opcional: se você especificar uma rede VPC ao criar um cluster Ray na Vertex AI, é recomendável ter uma rede VPC de modo automático no projeto. Talvez você encontre problemas se usar uma rede VPC de modo personalizado ou várias redes VPC para criar clusters no mesmo projeto.

Proteger os clusters

Siga as práticas recomendadas e diretrizes da Ray, incluindo a execução de código confiável em redes confiáveis, para proteger suas cargas de trabalho do Ray. A implantação do ray.io nas instâncias de nuvem se enquadra no modelo de responsabilidade compartilhada.

Para mais informações sobre as práticas recomendadas do Google Cloud, consulte o boletim de segurança do GCP-2024-020.

Locais suportados

A tabela Disponibilidade de recursos no treinamento de modelos personalizados lista os locais disponíveis do Ray na Vertex AI.

A seguir

• Criar um cluster do Ray na Vertex AI