Puoi configurare Vertex AI per il peering con Virtual Private Cloud (VPC) per connetterti direttamente a determinate risorse in Vertex AI, tra cui:
- Addestramento personalizzato
- Condivisioni NFS per l'addestramento personalizzato
- Endpoint di previsione privati
- Query online corrispondenti ai vettori
- Pipeline
- Istanze di blocchi note gestiti
Questa guida mostra come configurare il peering di rete VPC per eseguire il peering della tua rete con le risorse Vertex AI. Questa guida è consigliata agli amministratori di rete che hanno già familiarità con i concetti di rete di Google Cloud.
Panoramica
Questa guida tratta le seguenti attività:
- Configura l'accesso privato ai servizi per il VPC. In questo modo viene stabilita una connessione in peering tra il tuo VPC e la rete VPC condivisa di Google.
- Considera l'intervallo IP che devi prenotare per Vertex AI.
- Se applicabile, esporta le route personalizzate in modo che Vertex AI possa importarle.
Prima di iniziare
- Seleziona un VPC che vuoi connettere in peering con le risorse Vertex AI.
- Seleziona o crea un progetto Google Cloud da usare per Vertex AI.
-
Assicurati che la fatturazione sia attivata per il tuo progetto Google Cloud.
-
Abilita le API Compute Engine API, Vertex AI API, and Service Networking.
- Facoltativamente, puoi utilizzare un VPC condiviso. Se utilizzi un VPC condiviso, di solito utilizzi Vertex AI in un progetto Google Cloud separato da quello del tuo progetto host VPC. Abilita l'API Compute Engine e le API Service Networking in entrambi i progetti. Scopri come eseguire il provisioning di un VPC condiviso.
- Installa gcloud CLI se vuoi eseguire gli
gcloud
esempi in questa guida.
Ruoli obbligatori
Se non sei un proprietario o un editor del progetto, assicurati di disporre del ruolo Amministratore rete Compute (roles/compute.networkAdmin
), che include i ruoli richiesti per gestire le risorse di networking.
Peering con una rete on-premise
Per il peering di rete VPC con una rete on-premise, sono previsti passaggi aggiuntivi:
- Connetti la tua rete on-premise al VPC. Puoi utilizzare un tunnel VPN o Interconnect.
- Configura route personalizzate dal VPC alla rete on-premise.
- Esporta le route personalizzate in modo che Vertex AI possa importarle.
Configura l'accesso privato ai servizi per il tuo VPC
Quando configuri l'accesso privato ai servizi, stabilisci una connessione privata tra la tua rete e una rete di proprietà di Google o di un servizio di terze parti (producer di servizi). In questo caso, Vertex AI è un producer di servizi. Per configurare l'accesso privato ai servizi, prenota un intervallo IP per i producer di servizi, quindi crea una connessione in peering con Vertex AI.
Se hai già configurato un VPC con accesso privato ai servizi, passa all'esportazione di route personalizzate.
- Imposta le variabili di ambiente per l'ID progetto, il nome dell'intervallo prenotato e il nome della rete. Se utilizzi un VPC condiviso, utilizza l'ID del tuo progetto host VPC. In caso contrario, usa l'ID del progetto Google Cloud che usi per Vertex AI.
- Abilita le API richieste. Se utilizzi il VPC condiviso, consulta Utilizzare il VPC condiviso con Vertex AI.
- Imposta un intervallo riservato utilizzando
gcloud compute addresses create
. Stabilisci una connessione in peering tra il tuo progetto host VPC e il networking di servizi di Google utilizzando
gcloud services vpc-peerings connect
.Per gli endpoint di previsione privati, consigliamo di riservare almeno un blocco
/21
per la subnet ai fini dell'hosting del modello. La prenotazione di un blocco più piccolo può causare errori di deployment dovuti a indirizzi IP insufficienti. Puoi scegliere di utilizzare indirizzi non RFC 1918 per il deployment.PROJECT_ID=YOUR_PROJECT_ID gcloud config set project $PROJECT_ID # This is for display only; you can name the range anything. PEERING_RANGE_NAME=google-reserved-range NETWORK=YOUR_NETWORK_NAME # NOTE: `prefix-length=16` means a CIDR block with mask /16 will be # reserved for use by Google services, such as Vertex AI. gcloud compute addresses create $PEERING_RANGE_NAME \ --global \ --prefix-length=16 \ --description="peering range for Google service" \ --network=$NETWORK \ --purpose=VPC_PEERING # Create the VPC connection. gcloud services vpc-peerings connect \ --service=servicenetworking.googleapis.com \ --network=$NETWORK \ --ranges=$PEERING_RANGE_NAME \ --project=$PROJECT_ID
Scopri di più sull'accesso privato ai servizi.
Utilizza un VPC condiviso con Vertex AI
Se utilizzi il VPC condiviso nel progetto, scopri come eseguire il provisioning del VPC condiviso e assicurati di completare i seguenti passaggi:
Abilitare l'API Compute Engine e le API Service Networking nel progetto host e di servizio. L'API Vertex AI deve essere abilitata per il progetto di servizio.
Crea la connessione in peering di rete VPC tra il tuo VPC e i servizi Google all'interno del progetto host.
Durante la creazione di Vertex AI, devi specificare il nome della rete che vuoi che Vertex AI abbia accesso al VPC condiviso.
Verifica che il servizio o l'account utente utilizzato abbia il ruolo Ruolo Utente di rete Compute (
roles/compute.networkUser
).
Prenota intervalli IP per Vertex AI
Quando prenoti un intervallo IP per i producer di servizi, l'intervallo può essere utilizzato da Vertex AI e da altri servizi. Se ti connetti a più producer di servizi utilizzando lo stesso intervallo, alloca un intervallo più ampio per ospitarli, in modo da evitare l'esaurimento degli IP.
Leggi le informazioni sugli intervalli IP stimati da prenotare per l'utilizzo dell'IP privato con diversi tipi di job di addestramento personalizzato.
Se un job viene avviato con il parametro seguente, verrà avviato in una rete gestita da Google in peering al tuo VPC e ad altre reti collegate:
--network = "projects/${host_project}/global/networks/${network}"
Tutti i job che non hanno bisogno di accedere alle tue reti possono essere avviati senza questa dichiarazione, preservando così le allocazioni IP.
Esporta route personalizzate
Se utilizzi route personalizzate, devi esportarle in modo che Vertex AI possa importarle. Se non utilizzi route personalizzate, salta questa sezione.
Per esportare route personalizzate, devi aggiornare la connessione in peering nel tuo VPC. L'esportazione di route personalizzate invia tutte le route statiche e dinamiche idonee nella tua rete VPC, come le route alla tua rete on-premise, alle reti dei producer di servizi (in questo caso Vertex AI). In questo modo si stabiliscono le connessioni necessarie e i job di addestramento possono inviare il traffico alla rete on-premise.
Assicurati che la rete on-premise abbia le route riportate agli intervalli di indirizzi IP allocati per Vertex AI, in modo che le risposte vengano instradate correttamente a Vertex AI. Ad esempio, usa pubblicità di route personalizzate del router Cloud che includono gli intervalli di indirizzi IP
Scopri di più sulle connessioni private con reti on-premise.
Console
- Vai alla pagina Peering di rete VPC nella console Google Cloud.
Vai alla pagina Peering di rete VPC - Seleziona la connessione in peering da aggiornare.
- Fai clic su Modifica.
- Seleziona Esporta route personalizzate.
gcloud
Trova il nome della connessione in peering da aggiornare. Se hai più connessioni in peering, ometti il flag
--format
.gcloud services vpc-peerings list \ --network=$NETWORK \ --service=servicenetworking.googleapis.com \ --project=$PROJECT_ID \ --format "value(peering)"
Aggiorna la connessione in peering per esportare le route personalizzate.
gcloud compute networks peerings update PEERING-NAME \ --network=$NETWORK \ --export-custom-routes \ --project=$PROJECT_ID
Controllare lo stato delle connessioni in peering
Per vedere che le connessioni in peering sono attive, puoi elencarle utilizzando
gcloud compute networks peerings list --network $NETWORK
Dovresti vedere che lo stato del peering appena creato è ACTIVE
.
Scopri di più sulle connessioni in peering attive.
Risoluzione dei problemi
Questa sezione elenca alcuni problemi comuni per la configurazione del peering di rete VPC con Vertex AI.
Quando configuri Vertex AI per utilizzare una rete VPC condiviso, specifica l'URI di rete nel seguente modo.
"projects/YOUR_SHARED_VPC_HOST_PROJECT/global/networks/YOUR_SHARED_VPC_NETWORK"
Se specifichi una rete VPC condivisa che Vertex AI può utilizzare, assicurati che a tutti gli utenti o ad attori di account di servizio per Vertex AI nel progetto di servizio sia stato concesso il ruolo
compute.networkUser
nel progetto host.Assicurati di aver allocato un intervallo IP sufficiente per tutti i producer di servizi a cui si connette la rete, incluso Vertex AI.
Se vengono visualizzati i messaggi di errore
IP_SPACE_EXHAUSTED
,RANGES_EXHAUSTED
oPEERING_RANGE_EXHAUSTED
, devi aumentare la quantità di indirizzi IP disponibili per la prenotazioneservicenetworking
nella rete. Puoi aggiungere un nuovo intervallo alla configurazione esistente del peering di rete VPC o eliminare alcune risorse Vertex AI per rilasciare indirizzi IP allocati.Timeout connessione: dopo aver esportato le route personalizzate, le connessioni da Vertex AI verranno instradate attraverso la rete per raggiungere gli endpoint in altre reti. Tuttavia, questi endpoint potrebbero non essere instradati attraverso la rete per inviare le risposte ritornando a Vertex AI. Assicurati di aggiungere anche route statiche o dinamiche in queste reti per il percorso di ritorno all'intervallo IP allocato da Vertex AI.
Timeout connessione / errori Host non raggiungibile: poiché il peering transitivo non è supportato, le connessioni da Vertex AI non potranno raggiungere gli endpoint in altre reti che sono direttamente in peering con la rete, anche se l'opzione "Esporta route personalizzate" è abilitata. Collabora con l'amministratore di rete per assicurarti che non ci siano tentativi di routing della tua rete da una rete in peering diretto a un'altra. Se necessario, puoi sostituire uno di questi hop di peering con una soluzione che supporti route statiche o dinamiche.
Errori DNS non raggiungibili dell'host: se il job Vertex AI deve risolvere i nomi host nel VPC, assicurati di aver completato la configurazione per condividere zone DNS private con i producer di servizi.
Per ulteriori informazioni sulla risoluzione dei problemi, consulta la Guida alla risoluzione dei problemi del peering di rete VPC.
Passaggi successivi
- Scopri come utilizzare l'IP privato per l'addestramento personalizzato.
- Scopri come utilizzare gli endpoint privati per la previsione.
- Scopri di più sul peering di rete VPC.
- Consulta Architetture di riferimento e best practice per la progettazione di VPC.