Questa guida descrive come configurare Vertex AI per l'utilizzo di un account di servizio personalizzato nei seguenti scenari:
Quando esegui l'addestramento personalizzato, puoi configurare Vertex AI in modo che utilizzi un account di servizio personalizzato nel container di addestramento, che si tratti di un container predefinito o di un container personalizzato.
Quando esegui il deployment di una risorsa
Model
con addestramento personalizzato in una risorsaEndpoint
per fornire previsioni online, puoi configurare Vertex AI in modo che utilizzi un account di servizio personalizzato nel container che gestisce le previsioni, che si tratti di un container predefinito o di un container personalizzato.Quando crei un cluster Ray su Vertex AI, puoi impostare un account di servizio personalizzato per tutti i nodi del cluster.
Quando utilizzare un account di servizio personalizzato
Durante l'esecuzione, Vertex AI agisce in genere con le autorizzazioni di uno dei vari account di servizio che Google crea e gestisce per il tuo progetto Google Cloud. Per concedere a Vertex AI un maggiore accesso ad altri servizi Google Cloud in determinati contesti, puoi aggiungere ruoli specifici agli agenti di servizio di Vertex AI.
Tuttavia, la personalizzazione delle autorizzazioni degli agenti di servizio potrebbe non fornire il controllo dell'accesso granulare desiderato. Alcuni casi d'uso comuni includono:
- Verrà concessa meno autorizzazioni ai job e ai modelli di Vertex AI. L'agente di servizio Vertex AI predefinito ha accesso a BigQuery e Cloud Storage.
- Permettendo a vari job di accedere a risorse diverse. Potresti voler consentire a molti utenti di avviare job in un singolo progetto, ma concedere a ogni utente l'accesso ai job solo a una determinata tabella BigQuery o un determinato bucket Cloud Storage.
Ad esempio, puoi personalizzare singolarmente ogni job di addestramento personalizzato che esegui per avere accesso a diverse risorse Google Cloud al di fuori del tuo progetto.
Inoltre, la personalizzazione delle autorizzazioni degli agenti di servizio non modifica le autorizzazioni disponibili per un container che gestisce le previsioni da un Model
addestrato personalizzato.
Per personalizzare l'accesso ogni volta che esegui l'addestramento personalizzato o per personalizzare le autorizzazioni di un container di previsione di Model
con addestramento personalizzato, devi utilizzare un account di servizio personalizzato.
Accesso predefinito
Questa sezione descrive l'accesso predefinito disponibile per i container di addestramento personalizzati e i container di previsione delle risorse Model
con addestramento personalizzato.
Quando utilizzi un account di servizio personalizzato, sostituisci questo accesso per una risorsa specifica CustomJob
, HyperparameterTuningJob
, TrainingPipeline
o DeployedModel
.
Container di addestramento
Quando crei un elemento CustomJob
, HyperparameterTuningJob
o TrainingPipeline
personalizzato, il container di addestramento viene eseguito utilizzando per impostazione predefinita l'agente di servizio del codice personalizzato Vertex AI del tuo progetto Google Cloud.
Scopri di più sull'agente di servizio per codice personalizzato Vertex AI, incluso come concedergli l'accesso a risorse Google Cloud aggiuntive.
Container di previsione
Quando esegui il deployment di un Model
addestrato in modo personalizzato su un Endpoint
, il container di previsione viene eseguito utilizzando un account di servizio gestito da Vertex AI. Questo account di servizio è diverso dagli agenti di servizio Vertex AI.
L'account di servizio utilizzato dal container di previsione per impostazione predefinita dispone dell'autorizzazione per leggere gli artefatti del modello che Vertex AI rende disponibili in un URI archiviato nella variabile di ambiente AIP_STORAGE_URI
. Non fare affidamento
sull'account di servizio per avere altre autorizzazioni. Non puoi personalizzare le
autorizzazioni dell'account di servizio.
Configura un account di servizio personalizzato
Le seguenti sezioni descrivono come configurare un account di servizio personalizzato da utilizzare con Vertex AI e come configurare CustomJob
, HyperparameterTuningJob
, TrainingPipeline
o DeployedModel
per utilizzare l'account di servizio. Tieni presente che non puoi configurare un account di servizio personalizzato per eseguire il pull delle immagini da Artifact Registry. Vertex AI usa l'account di servizio predefinito
per il pull delle immagini.
Configurare un account di servizio personalizzato
Per configurare un account di servizio personalizzato:
Crea un account di servizio gestito dall'utente. L'account di servizio gestito dall'utente può trovarsi nello stesso progetto delle risorse Vertex AI o in un progetto diverso.
Concedi i ruoli IAM al tuo nuovo account di servizio che forniscono l'accesso ai servizi e alle risorse Google Cloud che vuoi che Vertex AI possa utilizzare durante l'addestramento personalizzato o la previsione.
Facoltativo: se l'account di servizio gestito dall'utente si trova in un progetto diverso dai job di addestramento, configura l'account di servizio gestito dall'utente in modo da poterlo collegare ai job di addestramento.
(Facoltativo) Se prevedi di utilizzare l'account di servizio gestito dall'utente anche per le previsioni, devi concedere il ruolo Amministratore account di servizio (
roles/iam.serviceAccountAdmin
) all'agente di servizio Vertex AI del progetto in cui stai utilizzando Vertex AI:gcloud iam service-accounts add-iam-policy-binding \ --role=roles/iam.serviceAccountAdmin \ --member=serviceAccount:AI_PLATFORM_SERVICE_AGENT \ CUSTOM_SERVICE_ACCOUNT
Sostituisci quanto segue:
AI_PLATFORM_SERVICE_AGENT: l'indirizzo email dell'agente di servizio Vertex AI del tuo progetto, che ha il seguente formato:
service-PROJECT_NUMBER@gcp-sa-aiplatform.iam.gserviceaccount.com
Per trovare l'agente di servizio Vertex AI, vai alla pagina IAM nella console Google Cloud.
CUSTOM_SERVICE_ACCOUNT: l'indirizzo email del nuovo account di servizio gestito dall'utente che hai creato nel primo passaggio di questa sezione.
Specifica un account di servizio personalizzato per le risorse Vertex AI
Il processo di configurazione di Vertex AI per l'utilizzo di un account di servizio specifico per una risorsa è chiamato collegamento dell'account di servizio alla risorsa. Le sezioni seguenti descrivono come collegare l'account di servizio creato nella sezione precedente a diverse risorse Vertex AI.
Collega un account di servizio a una risorsa di addestramento personalizzato
Per configurare Vertex AI in modo che utilizzi il tuo nuovo account di servizio durante l'addestramento personalizzato, specifica l'indirizzo email dell'account di servizio nel campo serviceAccount
di un messaggio CustomJobSpec
all'avvio dell'addestramento personalizzato. A seconda del tipo di risorsa di addestramento personalizzato che stai creando, il posizionamento di questo campo nella richiesta API varia:
Se stai creando un
CustomJob
, specifica l'indirizzo email dell'account di servizio inCustomJob.jobSpec.serviceAccount
.Scopri di più sulla creazione di un
CustomJob
.Se stai creando un
HyperparameterTuningJob
, specifica l'indirizzo email dell'account di servizio inHyperparameterTuningJob.trialJobSpec.serviceAccount
.Scopri di più sulla creazione di una
HyperparameterTuningJob
.Se stai creando una
TrainingPipeline
personalizzata senza ottimizzazione degli iperparametri, specifica l'indirizzo email dell'account di servizio inTrainingPipeline.trainingTaskInputs.serviceAccount
.Se stai creando una
TrainingPipeline
personalizzata con l'ottimizzazione degli iperparametri, specifica l'indirizzo email dell'account di servizio inTrainingPipeline.trainingTaskInputs.trialJobSpec.serviceAccount
.
Collega un account di servizio a un container che gestisce le previsioni online
Per configurare il container di previsione di un Model
con addestramento personalizzato in modo che utilizzi il tuo nuovo account di servizio, specifica l'indirizzo email dell'account di servizio quando esegui il deployment di Model
in un Endpoint
:
Console
Segui la pagina relativa al deployment di un modello mediante la console Google Cloud. Quando specifichi le impostazioni del modello, seleziona l'account di servizio nell'elenco a discesa Account di servizio.
gcloud
Segui Deployment di un modello tramite
l'API Vertex AI. Quando esegui il comando gcloud
ai endpoints deploy-model
, usa il flag --service-account
per specificare l'indirizzo email dell'account di servizio.
Prima di utilizzare uno qualsiasi dei dati di comando riportati di seguito, effettua le seguenti sostituzioni:
- ENDPOINT_ID: l'ID dell'endpoint.
- LOCATION_ID: la regione in cui utilizzi Vertex AI.
- MODEL_ID: l'ID del modello di cui eseguire il deployment.
-
DEPLOYED_MODEL_NAME: un nome per
DeployedModel
. Puoi utilizzare anche il nome visualizzato diModel
perDeployedModel
. -
MACHINE_TYPE: facoltativo. Le risorse macchina utilizzate per ogni nodo di questo deployment. La sua impostazione predefinita è
n1-standard-2
. Scopri di più sui tipi di macchina. - MIN_REPLICA_COUNT: il numero minimo di nodi per questo deployment. Il numero di nodi può essere aumentato o diminuito in base alle esigenze del carico della previsione, fino al numero massimo di nodi e mai meno di questo numero.
- MAX_REPLICA_COUNT: il numero massimo di nodi per questo deployment. Il numero di nodi può essere aumentato o diminuito in base al carico di previsione, fino a questo numero di nodi e mai inferiore al numero minimo di nodi.
- CUSTOM_SERVICE_ACCOUNT: l'indirizzo email dell'account di servizio. Ad esempio:
SA_NAME@PROJECT_ID.iam.gserviceaccount.com
.
Esegui il comando gcloud ai endpoints deploy-model:
Linux, macOS o Cloud Shell
gcloud ai endpoints deploy-model ENDPOINT_ID \ --region=LOCATION \ --model=MODEL_ID \ --display-name=DEPLOYED_MODEL_NAME \ --machine-type=MACHINE_TYPE \ --min-replica-count=MIN_REPLICA_COUNT \ --max-replica-count=MAX_REPLICA_COUNT \ --traffic-split=0=100 \ --service-account=CUSTOM_SERVICE_ACCOUNT
Windows (PowerShell)
gcloud ai endpoints deploy-model ENDPOINT_ID ` --region=LOCATION ` --model=MODEL_ID ` --display-name=DEPLOYED_MODEL_NAME ` --machine-type=MACHINE_TYPE ` --min-replica-count=MIN_REPLICA_COUNT ` --max-replica-count=MAX_REPLICA_COUNT ` --traffic-split=0=100 ` --service-account=CUSTOM_SERVICE_ACCOUNT
Windows (cmd.exe)
gcloud ai endpoints deploy-model ENDPOINT_ID ^ --region=LOCATION ^ --model=MODEL_ID ^ --display-name=DEPLOYED_MODEL_NAME ^ --machine-type=MACHINE_TYPE ^ --min-replica-count=MIN_REPLICA_COUNT ^ --max-replica-count=MAX_REPLICA_COUNT ^ --traffic-split=0=100 ^ --service-account=CUSTOM_SERVICE_ACCOUNT
API
Segui Deployment di un modello tramite
l'API Vertex AI. Quando invii la richiesta projects.locations.endpoints.deployModel
, imposta il campo deployedModel.serviceAccount
sull'indirizzo email dell'account di servizio.
Accedi ai servizi Google Cloud nel tuo codice
Se configuri Vertex AI per l'utilizzo di un account di servizio personalizzato seguendo le istruzioni nelle sezioni precedenti, il container di addestramento o il container di previsione potrà accedere a qualsiasi servizio e risorsa Google Cloud a cui ha accesso l'account di servizio.
Per accedere ai servizi Google Cloud, scrivi il tuo codice di addestramento o il tuo codice di gestione delle previsioni per utilizzare le Credenziali predefinite dell'applicazione (ADC) e specifica in modo esplicito l'ID o il numero del progetto della risorsa a cui vuoi accedere. Scopri di più su come scrivere il codice per accedere ad altri servizi Google Cloud.
Passaggi successivi
- Scopri di più sul controllo dell'accesso per Vertex AI.
- Scopri di più su autorizzazioni IAM specifiche e sulle operazioni supportate.