Ray è un framework open source per scalare AI e le applicazioni Python. Ray fornisce l'infrastruttura per eseguire computing ed elaborazione parallela per il flusso di lavoro di machine learning (ML).
Se utilizzi già Ray, puoi utilizzare lo stesso codice open source di Ray per scrivere programmi e sviluppare applicazioni su Vertex AI con modifiche minime. Puoi quindi utilizzare le integrazioni di Vertex AI con altri servizi Google Cloud come Vertex AI Prediction e BigQuery all'interno del tuo flusso di lavoro di machine learning.
Se utilizzi già Vertex AI e hai bisogno di un modo più semplice per gestire le risorse di calcolo, puoi utilizzare il codice Ray per scalare l'addestramento.
Flusso di lavoro per l'utilizzo di Ray su Vertex AI
Utilizza Colab Enterprise e l'SDK Vertex AI per Python per connetterti al cluster Ray.
| Passaggi | Descrizione |
|---|---|
| 1. Configurazione per Ray su Vertex AI | Configura il progetto Google, installa la versione dell'SDK Vertex AI per Python che include la funzionalità del client Ray, quindi configura una rete di peering VPC, facoltativa. |
| 2. Creare un cluster Ray su Vertex AI | Crea un cluster Ray su Vertex AI. È necessario il ruolo Amministratore di Vertex AI. |
| 3. Sviluppare un'applicazione Ray su Vertex AI | Connettiti a un cluster Ray su Vertex AI e sviluppa un'applicazione. È necessario il ruolo utente Vertex AI. |
| 4. (Facoltativo) Utilizza Ray su Vertex AI con BigQuery | Leggi, scrivi e trasforma i dati con BigQuery. |
| 5. (Facoltativo) Eseguire il deployment di un modello su Vertex AI e ottenere previsioni | Eseguire il deployment di un modello in un endpoint online di Vertex AI e ottenere previsioni. |
| 6. Monitora il cluster Ray su Vertex AI | Monitorare i log generati in Cloud Logging e le metriche in Cloud Monitoring. |
| 7. Elimina un cluster Ray su Vertex AI | Elimina un cluster Ray su Vertex AI per evitare una fatturazione non necessaria. |
Panoramica
I cluster Ray sono integrati per garantire la disponibilità di capacità per le attività di ML critiche carichi di lavoro aziendali o durante i periodi di picco. A differenza dei job personalizzati, in cui l'addestramento rilascia la risorsa al completamento del job, i cluster Ray disponibile fino all'eliminazione.
Nota: utilizza cluster Ray a lunga esecuzione in questi scenari:
- Se invii lo stesso job Ray più volte e puoi trarre vantaggio da la memorizzazione nella cache di dati e immagini eseguendo i job sulla stessa di cluster Ray.
- Se esegui molti job Ray di breve durata in cui il tempo di elaborazione effettivo è inferiore al tempo di avvio del job, potrebbe essere utile avere un cluster a lungo termine.
I cluster Ray su Vertex AI possono essere configurati con connettività pubblica o privata. I seguenti diagrammi mostrano l'architettura e il flusso di lavoro per Ray su Vertex AI. Per ulteriori informazioni, consulta Connettività pubblica o privata.
Architettura con connettività pubblica
Crea il cluster Ray su Vertex AI utilizzando le seguenti opzioni:
a. Utilizzare la console Google Cloud per creare il cluster Ray su Vertex AI.
b. Creare il cluster Ray su Vertex AI utilizzando l'SDK Vertex AI per Python.
Connettiti al cluster Ray su Vertex AI per lo sviluppo interattivo utilizzando le seguenti opzioni:
a. Utilizza Colab Enterprise nella console Google Cloud per una connessione senza problemi.
b. Utilizza qualsiasi ambiente Python accessibile sulla rete internet pubblica.
Sviluppa la tua applicazione e addestra il tuo modello sul cluster Ray Vertex AI -
Utilizza l'SDK Vertex AI per Python nel tuo ambiente preferito. (Colab Enterprise o qualsiasi blocco note Python).
Scrivi uno script Python utilizzando l'ambiente che preferisci.
Inviare un Ray Job al cluster Ray su Vertex AI utilizzando SDK Vertex AI per Python, interfaccia a riga di comando Ray Job o API Ray Job Submission.
Esegui il deployment del modello addestrato su un endpoint Vertex AI online per la previsione in tempo reale.
Utilizza BigQuery per gestire i tuoi dati.
Architettura con VPC
Il seguente diagramma mostra l'architettura e il flusso di lavoro per Ray on Vertex AI Dopo aver configurato il progetto Google Cloud e la rete VPC (facoltativo):
Configura il tuo (a) progetto Google e (b) la tua rete VPC.
Crea il cluster Ray su Vertex AI utilizzando le seguenti opzioni:
a. Utilizzare la console Google Cloud per creare il cluster Ray su Vertex AI.
b. Creare il cluster Ray su Vertex AI utilizzando l'SDK Vertex AI per Python.
Connettiti al cluster Ray su Vertex AI tramite una rete con peering VPC utilizzando le seguenti opzioni:
Utilizza Colab Enterprise nel nella console Google Cloud.
Usa Vertex AI Workbench un blocco note personalizzato.
Sviluppa la tua applicazione e addestra il tuo modello sul cluster Ray su Vertex AI utilizzando le seguenti opzioni:
Utilizza l'SDK Vertex AI per Python nel tuo ambiente preferito. (Colab Enterprise o un blocco note Vertex AI Workbench).
Scrivi uno script Python utilizzando il tuo ambiente preferito. Invia un job Ray al cluster Ray su Vertex AI utilizzando l'SDK Vertex AI per Python, Interfaccia a riga di comando Ray Job o dashboard Ray.
Eseguire il deployment del modello addestrato a un endpoint Vertex AI online per le previsioni.
Utilizza BigQuery per gestire i tuoi dati.
Prezzi
I prezzi di Ray on Vertex AI vengono calcolati come segue:
Le risorse di computing che utilizzi vengono addebitate in base alla configurazione della macchina selezionato durante la creazione del cluster Ray su Vertex AI. Per i prezzi di Ray on Vertex AI, consulta la pagina dei prezzi.
Per quanto riguarda i cluster Ray, ti vengono addebitati dei costi solo durante le fasi di ESECUZIONE e AGGIORNAMENTO stati. Non vengono addebitati costi per gli altri stati. L'importo addebitato si basa sulla dimensione effettiva del cluster al momento.
Quando esegui attività utilizzando il cluster Ray su Vertex AI, i log vengono vengono generati e addebitati automaticamente in base a Cloud Logging prezzi.
Se esegui il deployment del modello in un endpoint per le previsioni online, consulta la sezione "Previsione ed spiegazione" della pagina dei prezzi di Vertex AI.
Se utilizzi BigQuery con Ray su Vertex AI, vedi Prezzi di BigQuery.