Questa guida descrive come importare i modelli nel registro dei modelli. Dopo l'importazione, il modello è visibile nel registro dei modelli. Da Model Registry, puoi eseguire il deployment del modello importato in un endpoint ed eseguire previsioni.
Ruoli obbligatori
Per ottenere le autorizzazioni necessarie per importare i modelli,
chiedi all'amministratore di concederti il ruolo IAM
Utente Vertex AI (roles/aiplatform.user
) per il progetto.
Per saperne di più sulla concessione dei ruoli, consulta Gestire l'accesso.
Potresti anche essere in grado di ottenere le autorizzazioni richieste tramite i ruoli personalizzati o altri ruoli predefiniti.
Container predefiniti o personalizzati
Quando importi un modello, lo associ a un container per consentire a Vertex AI di eseguire richieste di previsione. Puoi utilizzare i container predefiniti forniti da Vertex AI oppure utilizzare i tuoi container personalizzati di cui hai creato ed eseguito il push in Artifact Registry.
Puoi utilizzare un container predefinito se il modello soddisfa i seguenti requisiti:
- Addestrato in Python 3.7 o versioni successive
- Addestrato utilizzando TensorFlow, PyTorch, scikit-learn o XGBoost
- Esportata per soddisfare requisiti specifici del framework per uno dei container di previsione predefiniti.
Se importi un modello AutoML tabulare che hai esportato in precedenza, devi utilizzare un container personalizzato specifico fornito da Vertex AI.
In caso contrario, crea un nuovo container personalizzato o utilizza un container personalizzato esistente in Artifact Registry.
Carica gli artefatti del modello in Cloud Storage
Devi archiviare gli artefatti del modello in un bucket Cloud Storage, dove la regione del bucket corrisponde all'endpoint a livello di regione in uso.
Se il bucket Cloud Storage si trova in un progetto Google Cloud diverso, devi concedere l'accesso a Vertex AI per leggere gli artefatti del tuo modello.
Se utilizzi un container predefinito, assicurati che gli artefatti del modello abbiano nomi file che corrispondano esattamente ai seguenti esempi:
- SaveModel di TensorFlow:
saved_model.pb
- PyTorch:
model.mar
- scikit-learn:
model.joblib
omodel.pkl
- XGBoost:
model.bst
,model.joblib
omodel.pkl
Scopri di più sull'esportazione degli artefatti del modello per la previsione.
Importa un modello utilizzando la console Google Cloud
Per importare un modello utilizzando la console Google Cloud:
Nella console Google Cloud, vai alla pagina Modelli di Vertex AI.
Fai clic su Importa.
Seleziona Importa come nuovo modello per importare un nuovo modello.
Seleziona Importa come nuova versione per importare un modello come versione di un modello esistente. Per scoprire di più sul controllo delle versioni dei modelli, consulta Controllo delle versioni dei modelli.
Nome e regione: inserisci un nome per il modello, Seleziona la regione che corrisponde sia alla regione del tuo bucket sia all'endpoint a livello di regione Vertex AI che stai utilizzando. Fai clic su Continua.
Se espandi Opzioni avanzate, puoi decidere di aggiungere una chiave di crittografia gestita dal cliente.
A seconda del tipo di container in uso, seleziona la scheda appropriata di seguito.
Container predefinito
Seleziona Importa gli artefatti del modello in un nuovo container predefinito.
Seleziona il framework del modello e la versione del framework del modello che hai utilizzato per addestrare il modello.
Se vuoi utilizzare GPU per fornire previsioni, imposta Tipo di acceleratore su GPU.
Potrai selezionare il tipo di GPU in un secondo momento, quando eseguirai il deployment del modello su un endpoint.
Specifica il percorso Cloud Storage della directory che contiene gli artefatti del tuo modello.
Ad esempio,
gs://BUCKET_NAME/models/
.Lascia vuoto il campo Schema di previsione.
Per importare il modello senza le impostazioni di Vertex Explainable AI, fai clic su Importa.
Al termine dell'importazione, il modello viene visualizzato nella pagina Modelli.
In caso contrario, continua a configurare il modello inserendo le impostazioni di spiegabilità nella scheda Spiegabilità. Scopri di più sulle impostazioni di spiegabilità.
Container personalizzato
Seleziona Importa un contenitore personalizzato esistente.
Imposta l'URI dell'immagine container.
Se vuoi fornire elementi del modello oltre a un'immagine container, specifica il percorso Cloud Storage della directory che contiene gli artefatti del tuo modello.
Ad esempio,
gs://BUCKET_NAME/models/
.Specifica i valori per gli altri campi.
Scopri di più su questi campi facoltativi.
Per importare il modello senza le impostazioni di Vertex Explainable AI, fai clic su Importa.
Al termine dell'importazione, il modello viene visualizzato nella pagina Modelli.
In caso contrario, continua a configurare il modello inserendo le impostazioni di spiegabilità nella scheda Spiegabilità. Scopri di più sulle impostazioni di spiegabilità.
Contenitore tabulare AutoML
Seleziona Importa un contenitore personalizzato esistente.
Nel campo Immagine container, inserisci
MULTI_REGION-docker.pkg.dev/vertex-ai/automl-tabular/prediction-server-v1:latest
.Sostituisci
MULTI_REGION
conus
,europe
oasia
per selezionare il repository Docker da cui vuoi eseguire il pull dell'immagine Docker. Ogni repository fornisce la stessa immagine Docker, ma scegliere la più regioni di Artifact Registry più vicina alla macchina su cui esegui Docker potrebbe ridurre la latenza.Nel campo Posizione pacchetto, specifica il percorso Cloud Storage della directory che contiene gli artefatti del modello.
Il percorso è simile al seguente esempio:
gs://BUCKET_NAME/models-MODEL_ID/tf-saved-model/TIMESTAMP/
Lascia vuoti tutti gli altri campi.
Fai clic su Importa.
Al termine dell'importazione, il modello viene visualizzato nella pagina Modelli. Puoi utilizzare questo modello come gli altri modelli tabulari AutoML, ad eccezione del fatto che i modelli tabulari AutoML importati non supportano Vertex Explainable AI.
Importa un modello in modo programmatico
I seguenti esempi mostrano come importare un modello utilizzando vari strumenti:
gcloud
Nell'esempio seguente viene utilizzato il comando gcloud ai models upload
:
gcloud ai models upload \
--region=LOCATION \
--display-name=MODEL_NAME \
--container-image-uri=IMAGE_URI \
--artifact-uri=PATH_TO_MODEL_ARTIFACT_DIRECTORY
Sostituisci quanto segue:
- LOCATION_ID: la regione in cui utilizzi Vertex AI.
-
MODEL_NAME: un nome visualizzato per
Model
. -
IMAGE_URI: l'URI dell'immagine container da utilizzare per fornire le previsioni. Ad esempio,
us-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-1:latest
. Utilizza un container predefinito o un container personalizzato. -
PATH_TO_MODEL_ARTIFACT_DIRECTORY: l'URI Cloud Storage (a partire da
gs://
) di una directory in Cloud Storage che contiene gli artefatti del modello.
L'esempio precedente mostra tutti i flag necessari per importare la maggior parte
dei modelli. Se non utilizzi un container predefinito per la previsione, probabilmente dovrai specificare alcuni flag facoltativi aggiuntivi in modo che Vertex AI possa utilizzare la tua immagine container. Questi flag, che iniziano con --container-
, corrispondono ai campi della classe containerSpec
di Model
.
REST
Utilizza il seguente esempio di codice per caricare un modello con il metodo upload
della risorsa model
.
Prima di utilizzare i dati della richiesta, effettua le seguenti sostituzioni:
- LOCATION_ID: la regione in cui utilizzi Vertex AI.
- PROJECT_ID: il tuo ID progetto.
-
MODEL_NAME: un nome visualizzato per
Model
. - MODEL_DESCRIPTION: facoltativo. Una descrizione del modello.
-
IMAGE_URI: l'URI dell'immagine container da utilizzare per fornire le previsioni. Ad esempio,
us-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-1:latest
. Utilizza un container predefinito o un container personalizzato. -
PATH_TO_MODEL_ARTIFACT_DIRECTORY: l'URI Cloud Storage (a partire da
gs://
) di una directory in Cloud Storage che contiene gli artefatti del modello. Questa variabile e il campoartifactUri
sono facoltativi se utilizzi un container personalizzato. labels
: facoltativo. Qualsiasi insieme di coppie chiave-valore per organizzare i tuoi modelli. Ad esempio:- "env": "prod"
- "tier": "backend"
- Specifica LABEL_NAME e LABEL_VALUE per qualsiasi etichetta che vuoi applicare a questa pipeline di addestramento.
Metodo HTTP e URL:
POST https://LOCATION_ID-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION_ID/models:upload
Corpo JSON della richiesta:
{ "model": { "displayName": "MODEL_NAME", "predictSchemata": {}, "containerSpec": { "imageUri": "IMAGE_URI" }, "artifactUri": "PATH_TO_MODEL_ARTIFACT_DIRECTORY", "labels": { "LABEL_NAME_1": "LABEL_VALUE_1", "LABEL_NAME_2": "LABEL_VALUE_2" } } }
Per inviare la richiesta, scegli una delle seguenti opzioni:
arricciatura
Salva il corpo della richiesta in un file denominato request.json
ed esegui questo comando:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://LOCATION_ID-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION_ID/models:upload"
PowerShell
Salva il corpo della richiesta in un file denominato request.json
ed esegui questo comando:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://LOCATION_ID-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION_ID/models:upload" | Select-Object -Expand Content
Java
Prima di provare questo esempio, segui le istruzioni di configurazione di Java riportate nella guida rapida di Vertex AI sull'utilizzo delle librerie client. Per maggiori informazioni, consulta la documentazione di riferimento dell'API Java Vertex AI.
Per eseguire l'autenticazione in Vertex AI, configura le Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Node.js
Prima di provare questo esempio, segui le istruzioni di configurazione di Node.js riportate nella guida rapida di Vertex AI sull'utilizzo delle librerie client. Per maggiori informazioni, consulta la documentazione di riferimento dell'API Node.js Vertex AI.
Per eseguire l'autenticazione in Vertex AI, configura le Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Python
Per scoprire come installare o aggiornare l'SDK Vertex AI per Python, consulta Installare l'SDK Vertex AI per Python. Per saperne di più, consulta la documentazione di riferimento dell'API Python.
Per importare un modello con le impostazioni di Vertex Explainable AI abilitate, consulta gli esempi di importazione di modelli Vertex Explainable AI.
Ottieni stato operazione
Alcune richieste avviano operazioni a lunga esecuzione il cui completamento richiede tempo. Queste richieste restituiscono un nome operazione, che puoi utilizzare per visualizzare lo stato dell'operazione o per annullarla. Vertex AI fornisce metodi helper per effettuare chiamate a operazioni a lunga esecuzione. Per maggiori informazioni, consulta Operazioni a lunga esecuzione.
Limitazioni
- La dimensione massima del modello supportata è 10 GiB.
Passaggi successivi
- Esegui il deployment del modello su un endpoint, a livello di programmazione o utilizzando la console Google Cloud.