O Ray é um framework de código aberto para dimensionar aplicativos de IA e Python. O Ray fornece a infraestrutura para realizar computação distribuída e processamento paralelo para seu fluxo de trabalho de machine learning (ML).
Se você já usa o Ray, pode usar o mesmo código do Ray de código aberto para criar programas e desenvolver aplicativos na Vertex AI com alterações mínimas. A partir daí, é possível usar as integrações da Vertex AI com outros serviços do Google Cloud, como as previsões da Vertex AI e o BigQuery, como parte do fluxo de trabalho de machine learning.
Se você já usa a Vertex AI e precisa de uma maneira mais simples para escalonar recursos de computação, use o o código do Ray para otimizar o desempenho das etapas de treinamento, ajuste de hiperparâmetros, previsões e disponibilização on-line.
Fluxo de trabalho para utilizar o Ray na Vertex AI
Use o Colab Enterprise e o SDK da Vertex AI para Python para se conectar ao cluster do Ray.
| Etapas | Descrição |
|---|---|
| 1. Configuração do Ray na Vertex AI | Configure seu projeto do Google, instale a versão do SDK da Vertex AI para Python que inclui a funcionalidade do Ray Client e configure uma rede de peering de VPC (opcional). |
| 2. Criar um cluster do Ray na Vertex AI | Criar um cluster do Ray na Vertex AI. |
| 3. Desenvolver um aplicativo do Ray na Vertex AI | Conectar-se a um cluster do Ray na Vertex AI e desenvolver um aplicativo. |
| 4. (Opcional) Usar o Ray na Vertex AI com o BigQuery | Ler, gravar e transformar dados com o BigQuery. |
| 5. (Opcional) Implantar um modelo na Vertex AI e receber previsões | Implantar um modelo em um endpoint on-line da Vertex AI e receber previsões. |
| 6. Monitorar seu cluster do Ray na Vertex AI | Monitorar os registros gerados no Cloud Logging e as métricas no Cloud Monitoring. |
| 7. Excluir um cluster do Ray na Vertex AI | Excluir um cluster do Ray na Vertex AI para evitar faturamentos desnecessários. |
Arquitetura
Os clusters do Ray na Vertex AI podem ser configurados com conectividade pública ou particular. Os diagramas a seguir mostram a arquitetura e o fluxo de trabalho do Ray na Vertex AI. Consulte Conectividade pública ou particular para mais informações.
Arquitetura com conectividade pública
Crie o cluster do Ray na Vertex AI usando as seguintes opções:
A) Use o console do Google Cloud para criar o cluster do Ray na Vertex AI.
b. Criar o cluster do Ray na Vertex AI usando o SDK da Vertex AI para Python.
Conecte-se ao cluster do Ray na Vertex AI para ter desenvolvimento interativo usando as seguintes opções:
A) Use o Colab Enterprise no console do Google Cloud para uma conexão perfeita.
b. Use qualquer ambiente Python acessível à Internet pública.
Desenvolva seu aplicativo e treine o modelo no cluster Ray na Vertex AI:
Use o SDK da Vertex AI para Python no ambiente de sua preferência (Colab Enterprise ou qualquer notebook Python).
Crie um script Python usando o ambiente de sua preferência.
Envie um job do Ray para o cluster do Ray na Vertex AI usando o SDK da Vertex AI para Python, a CLI do Ray Job ou a API Ray Job Submission.
Implante o modelo treinado em um endpoint on-line da Vertex AI para previsão em tempo real.
Use o BigQuery para gerenciar seus dados.
Arquitetura com VPC
O diagrama a seguir mostra a arquitetura e o fluxo de trabalho do Ray na Vertex AI após a configuração do projeto do Google Cloud e da rede VPC, o que é opcional:
Configure (a) o projeto do Google e (b) a rede VPC.
Crie o cluster do Ray na Vertex AI usando as seguintes opções:
A) Use o console do Google Cloud para criar o cluster do Ray na Vertex AI.
b. Criar o cluster do Ray na Vertex AI usando o SDK da Vertex AI para Python.
Conecte-se ao cluster do Ray na Vertex AI por meio de uma rede com peering de VPC usando as seguintes opções:
Use o Colab Enterprise no console do Google Cloud.
Use um notebook do Vertex AI Workbench.
Desenvolva seu aplicativo e treine o modelo no cluster Ray na Vertex AI com as seguintes opções:
Use o SDK da Vertex AI para Python no ambiente de sua preferência (notebook do Vertex AI Workbench ou Colab Enterprise).
Crie um script Python usando o ambiente de sua preferência. Envie um job do Ray ao cluster do Ray na Vertex AI usando o SDK da Vertex AI para Python, a CLI do job do Ray ou o painel do Ray.
Implante o modelo treinado em um endpoint on-line da Vertex AI para fazer previsões.
Use o BigQuery para gerenciar seus dados.
Preços
O preço do Ray na Vertex AI é calculado da seguinte maneira:
Os recursos de computação que você usa são cobrados com base na configuração da máquina selecionada ao criar o cluster do Ray na Vertex AI. Para conferir os preços do Ray na Vertex AI, consulte a página de preços.
Quando você executa tarefas usando o cluster do Ray na Vertex AI, os registros são gerados e cobrados automaticamente com base nos preços do Cloud Logging.
Se você implantar o modelo em um endpoint para receber previsões on-line, consulte a seção "Previsão e explicação" da página de preços da Vertex AI.
Se você usa o BigQuery com o Ray na Vertex AI, consulte Preços do BigQuery.