Gli iperparametri sono variabili che regolano il processo di addestramento di un modello, ad esempio la dimensione del batch o il numero di livelli nascosti in una rete neurale profonda. L'ottimizzazione degli iperparametri cerca la migliore combinazione di valori degli iperparametri ottimizzando i valori delle metriche in una serie di prove. Le metriche sono riepiloghi scalabili che aggiungi al trainer, come l'accuratezza del modello.
Scopri di più sull'ottimizzazione degli iperparametri su Vertex AI. Per un esempio dettagliato, consulta Vertex AI: codelab sull'ottimizzazione degli iperparametri.
Questa pagina ti mostra come:
Prepara l'applicazione di addestramento per l'ottimizzazione degli iperparametri aggiornandola in modo che accetti gli iperparametri come argomenti della riga di comando e segnala i valori delle metriche a Vertex AI.
Crea il job di addestramento degli iperparametri. Per saperne di più sulle opzioni di configurazione, consulta Informazioni sulla configurazione dell'ottimizzazione degli iperparametri.
Prepara la tua applicazione di addestramento
In un job di ottimizzazione degli iperparametri, Vertex AI crea prove del job di addestramento con diversi set di iperparametri e valuta l'efficacia di una prova utilizzando le metriche specificate. Vertex AI passa i valori degli iperparametri all'applicazione di addestramento come argomenti della riga di comando. Affinché Vertex AI possa valutare l'efficacia di una prova, l'applicazione di addestramento deve segnalare le metriche a Vertex AI.
Le sezioni seguenti descrivono:
- Il modo in cui Vertex AI passa gli iperparametri all'applicazione di addestramento.
- Opzioni per passare metriche dall'applicazione di addestramento a Vertex AI.
Per saperne di più sui requisiti per le applicazioni di addestramento personalizzato eseguite su Vertex AI, consulta Requisiti per l'addestramento dei codici.
Gestisci gli argomenti della riga di comando per gli iperparametri che vuoi ottimizzare
Vertex AI imposta gli argomenti della riga di comando quando chiama l'applicazione di addestramento. Utilizza gli argomenti della riga di comando nel codice:
Definisci un nome per ogni argomento dell'iperparametro e analizzalo utilizzando l'analizzatore sintattico di argomenti che preferisci, ad esempio
argparse
. Usa gli stessi nomi degli argomenti quando configuri il job di addestramento degli iperparametri.Ad esempio, se l'applicazione di addestramento è un modulo Python denominato
my_trainer
e stai ottimizzando un iperparametro denominatolearning_rate
, Vertex AI avvia ogni prova con un comando simile al seguente:python3 -m my_trainer --learning_rate learning-rate-in-this-trial
Vertex AI determina learning-rate-in-this-trial e lo passa utilizzando l'argomento
learning_rate
.Assegna i valori degli argomenti della riga di comando agli iperparametri nel codice di addestramento.
Scopri di più sui requisiti per l'analisi degli argomenti della riga di comando.
Segnala le tue metriche a Vertex AI
Per segnalare le metriche a Vertex AI, utilizza il pacchetto Python cloudml-hypertune
. Questa libreria fornisce funzioni
helper per la generazione di report sulle metriche.
Scopri di più sulle metriche degli iperparametri dei report.
Creazione di un job di ottimizzazione iperparametri
A seconda dello strumento che vuoi utilizzare per creare un HyperparameterTuningJob
,
seleziona una delle seguenti schede:
Console
Nella console Google Cloud, non puoi creare direttamente una risorsa HyperparameterTuningJob
. Tuttavia, puoi creare una risorsa TrainingPipeline
che crea un HyperparameterTuningJob
.
Le istruzioni seguenti descrivono come creare un TrainingPipeline
che
crei un HyperparameterTuningJob
e non faccia altro. Se vuoi utilizzare altre funzionalità di TrainingPipeline
, ad esempio l'addestramento con un set di dati gestito, consulta Creazione di pipeline di addestramento.
Nella sezione Vertex AI della console Google Cloud, vai alla pagina pipeline di addestramento.
Fai clic su
Crea per aprire il riquadro Addestra nuovo modello.Nel passaggio Metodo di addestramento, specifica le seguenti impostazioni:
Nell'elenco a discesa Set di dati, seleziona Nessun set di dati gestito.
Seleziona Addestramento personalizzato (avanzato).
Fai clic su Continua.
Nel passaggio Dettagli modello, scegli Addestra nuovo modello o Addestra nuova versione. Se selezioni Addestra nuovo modello, inserisci un nome a tua scelta, MODEL_NAME, per il modello. Fai clic su Continua.
Nel passaggio Contenitore di addestramento, specifica le seguenti impostazioni:
Scegli se utilizzare un container predefinito o un container personalizzato per l'addestramento.
A seconda della tua scelta, esegui una delle seguenti operazioni:
Se vuoi utilizzare un container predefinito per l'addestramento, fornisci a Vertex AI le informazioni necessarie per utilizzare il pacchetto di addestramento che hai caricato su Cloud Storage:
Usa gli elenchi a discesa Framework del modello e Versione del framework del modello per specificare il container predefinito che vuoi utilizzare.
Nel campo Posizione pacchetto, specifica l'URI Cloud Storage dell'applicazione di addestramento Python che hai creato e caricato. Questo file solitamente termina con
.tar.gz
.Nel campo Modulo Python, inserisci il nome del modulo del punto di ingresso dell'applicazione di addestramento.
Se vuoi utilizzare un container personalizzato per l'addestramento, nel campo Immagine container, specifica l'URI Artifact Registry o Docker Hub dell'immagine container.
Nel campo Directory di output del modello, puoi specificare l'URI Cloud Storage di una directory in un bucket a cui hai accesso. La directory non deve ancora esistere.
Questo valore viene passato a Vertex AI nel campo API
baseOutputDirectory
, che imposta diverse variabili di ambiente a cui l'applicazione di addestramento può accedere durante l'esecuzione.Facoltativo: nel campo Argomenti, puoi specificare gli argomenti da utilizzare per Vertex AI quando inizia l'esecuzione del codice di addestramento. La lunghezza massima per tutti gli argomenti combinati è di 100.000 caratteri. Il comportamento di questi argomenti varia a seconda del tipo di container in uso:
Se utilizzi un container predefinito, Vertex AI passa gli argomenti come flag della riga di comando al modulo Python.
Se utilizzi un container personalizzato, Vertex AI sostituisce l'istruzione
CMD
del container con gli argomenti.
Fai clic su Continua.
Nel passaggio Ottimizzazione degli iperparametri, seleziona la casella di controllo Abilita l'ottimizzazione degli iperparametri e specifica le seguenti impostazioni:
Nella sezione Nuovo iperparametro, specifica il Nome parametro e il Tipo di un iperparametro che vuoi ottimizzare. A seconda del tipo specificato, configura le impostazioni aggiuntive degli iperparametri che vengono visualizzate.
Scopri di più sui tipi di iperparametri e sulle relative configurazioni.
Se vuoi ottimizzare più di un iperparametro, fai clic su Aggiungi nuovo parametro e ripeti il passaggio precedente nella nuova sezione che viene visualizzata.
Ripeti questa operazione per ogni iperparametro che vuoi ottimizzare.
Nel campo Metrica da ottimizzare e nell'elenco a discesa Obiettivo, specifica il nome e l'obiettivo della metrica che vuoi ottimizzare.
Nel campo Numero massimo di prove, specifica il numero massimo di prove che Vertex AI deve eseguire per il job di ottimizzazione degli iperparametri.
Nel campo Numero massimo di prove parallele, specifica il numero massimo di prove per consentire l'esecuzione contemporanea di Vertex AI.
Nell'elenco a discesa Algoritmo di ricerca, specifica un algoritmo di ricerca che Vertex AI deve utilizzare.
Ignora il pulsante di attivazione/disattivazione Abilita interruzione anticipata, che non ha alcun effetto.
Fai clic su Continua.
Nel passaggio Calcolo e prezzi, specifica le seguenti impostazioni:
Nell'elenco a discesa Regione, seleziona una "regione che supporta l'addestramento personalizzato"
Nella sezione Pool di worker 0, specifica le risorse di calcolo da utilizzare per l'addestramento.
Se specifichi acceleratori, assicurati che il tipo di acceleratore scelto sia disponibile nella regione selezionata.
Se vuoi eseguire un addestramento distribuito, fai clic su Aggiungi altri pool di worker e specifica un set aggiuntivo di risorse di computing per ogni pool di worker aggiuntivo che vuoi.
Fai clic su Continua.
Nel passaggio Container di previsione, seleziona Nessun container di previsione.
Fai clic su Avvia addestramento per avviare la pipeline di addestramento personalizzato.
gcloud
I passaggi seguenti mostrano come utilizzare Google Cloud CLI per creare un HyperparameterTuningJob
con una configurazione relativamente minima. Per saperne di più su tutte le opzioni di configurazione che puoi utilizzare per questa attività, consulta la documentazione di riferimento per il comando gcloud ai hp-tuning-jobs create
e la risorsa API HyperparameterTuningJob
.
Crea un file YAML denominato
config.yaml
con alcuni campi API che vuoi specificare per il nuovoHyerparameterTuningJob
:config.yaml
studySpec: metrics: - metricId: METRIC_ID goal: METRIC_GOAL parameters: - parameterId: HYPERPARAMETER_ID doubleValueSpec: minValue: DOUBLE_MIN_VALUE maxValue: DOUBLE_MAX_VALUE trialJobSpec: workerPoolSpecs: - machineSpec: machineType: MACHINE_TYPE replicaCount: 1 containerSpec: imageUri: CUSTOM_CONTAINER_IMAGE_URI
Sostituisci quanto segue:
METRIC_ID
: il nome di una metrica iperparametri da ottimizzare. Il codice di addestramento deve segnalare questa metrica quando viene eseguita.METRIC_GOAL
: l'obiettivo della metrica dell'iperparametro,MAXIMIZE
oMINIMIZE
.HYPERPARAMETER_ID
: il nome di un iperparametro da ottimizzare. Il tuo codice di addestramento deve analizzare un flag della riga di comando con questo nome. Per questo esempio, l'iperparametro deve assumere valori in virgola mobile. Scopri di più su altri tipi di dati degli iperparametri.DOUBLE_MIN_VALUE
: il valore minimo (un numero) che Vertex AI deve provare per questo iperparametro.DOUBLE_MAX_VALUE
: il valore massimo (un numero) che vuoi che Vertex AI provi per questo iperparametro.MACHINE_TYPE
: il tipo di VM da utilizzare per l'addestramento.CUSTOM_CONTAINER_IMAGE_URI
: l'URI di un'immagine container Docker con il tuo codice di addestramento. Scopri come creare un'immagine container personalizzata.Per questo esempio devi utilizzare un container personalizzato. Le risorse
HyperparameterTuningJob
supportano anche il codice di addestramento in una distribuzione di codice sorgente Python anziché in un container personalizzato.
Nella stessa directory in cui si trova il file
config.yaml
, esegui il seguente comando shell:gcloud ai hp-tuning-jobs create \ --region=LOCATION \ --display-name=DISPLAY_NAME \ --max-trial-count=MAX_TRIAL_COUNT \ --parallel-trial-count=PARALLEL_TRIAL_COUNT \ --config=config.yaml
Sostituisci quanto segue:
LOCATION
: la regione in cui vuoi creareHyperparameterTuningJob
. Utilizza una regione che supporta l'addestramento personalizzato.DISPLAY_NAME
: un nome visualizzato memorabile di tua scelta perHyperparameterTuningJob
. Scopri di più sui requisiti per i nomi delle risorse.MAX_TRIAL_COUNT
: il numero massimo di prove da eseguire.PARALLEL_TRIAL_COUNT
: il numero massimo di prove da eseguire in parallelo.
REST
Utilizza il seguente esempio di codice per creare un job di ottimizzazione degli iperparametri utilizzando il metodo create
della risorsa hyperparameterTuningJob
.
Prima di utilizzare i dati della richiesta, effettua le seguenti sostituzioni:
-
LOCATION
: la regione in cui vuoi creareHyperparameterTuningJob
. Utilizza una regione che supporta l'addestramento personalizzato. - PROJECT: il tuo ID progetto.
-
DISPLAY_NAME
: un nome visualizzato memorabile di tua scelta perHyperparameterTuningJob
. Scopri di più sui requisiti per i nomi delle risorse. - Specifica le metriche:
-
METRIC_ID
: il nome di una metrica iperparametri da ottimizzare. Il codice di addestramento deve segnalare questa metrica quando viene eseguita. -
METRIC_GOAL
: l'obiettivo della metrica dell'iperparametro,MAXIMIZE
oMINIMIZE
.
-
- Specifica gli iperparametri:
-
HYPERPARAMETER_ID
: il nome di un iperparametro da ottimizzare. Il tuo codice di addestramento deve analizzare un flag della riga di comando con questo nome. - PARAMETER_SCALE: (facoltativo) La modalità di scalabilità del parametro. Non impostare il parametro
per i parametri CATEGORICAL. Può essere
UNIT_LINEAR_SCALE
,UNIT_LOG_SCALE
,UNIT_REVERSE_LOG_SCALE
oSCALE_TYPE_UNSPECIFIED
- Se il tipo di questo iperparametro è DOPPIO, specifica i valori minimo (DOUBLE_MIN_VALUE) e massimo (DOUBLE_MAX_VALUE) per l'iperparametro.
- Se il tipo di questo iperparametro è INTEGER, specifica i valori minimo (INTEGER_MIN_VALUE) e massimo (INTEGER_MAX_VALUE) per questo iperparametro.
- Se il tipo di questo iperparametro è CATEGORICAL, specifica i valori accettabili (CATEGORICAL_VALUES) come array di stringhe.
- Se il tipo di questo iperparametro è DISCRETE, specifica i valori accettabili (DISCRETE_VALUES) come array di numeri.
- Specificare gli iperparametri condizionali. Gli iperparametri condizionali vengono aggiunti a una prova quando il valore dell'iperparametro principale corrisponde alla condizione specificata. Scopri di più sugli
iperparametri condizionali.
- CONDITIONAL_PARAMETER: il valore
ParameterSpec
del parametro condizionale. Questa specifica include il nome, la scala, l'intervallo di valori e tutti i parametri condizionali che dipendono da questo iperparametro. - Se il tipo dell'iperparametro padre è INTEGER, specifica un elenco di numeri interi come INTEGERS_TO_MATCH. Se il valore dell'iperparametro padre corrisponde a uno dei valori specificati, questo parametro condizionale viene aggiunto alla prova.
- Se il tipo dell'iperparametro padre è CATEGORICAL, specifica un elenco di categorie come CATEGORIES_TO_MATCH. Se il valore dell'iperparametro padre corrisponde a uno dei valori specificati, questo parametro condizionale viene aggiunto alla prova.
- Se il tipo dell'iperparametro padre è DISCRETE, specifica un elenco di numeri interi come DISCRETE_VALUES_TO_MATCH. Se il valore dell'iperparametro padre corrisponde a uno dei valori specificati, questo parametro condizionale viene aggiunto alla prova.
- CONDITIONAL_PARAMETER: il valore
-
- ALGORITHM: (facoltativo) L'algoritmo di ricerca da utilizzare in questo job di ottimizzazione degli iperparametri. Può essere
ALGORITHM_UNSPECIFIED
,GRID_SEARCH
oRANDOM_SEARCH
. -
MAX_TRIAL_COUNT
: il numero massimo di prove da eseguire. -
PARALLEL_TRIAL_COUNT
: il numero massimo di prove da eseguire in parallelo. - MAX_FAILED_TRIAL_COUNT: il numero di job che possono avere esito negativo prima che il job di ottimizzazione degli iperparametri abbia esito negativo.
- Definisci il job di addestramento personalizzato della prova:
-
MACHINE_TYPE
: il tipo di VM da utilizzare per l'addestramento. - ACCELERATOR_TYPE: (facoltativo) Il tipo di acceleratore da collegare a ogni prova.
- ACCELERATOR_COUNT: (facoltativo) Il numero di acceleratori da collegare a ogni prova.
- REPLICA_COUNT: il numero di repliche dei worker da utilizzare per ogni prova.
- Se l'applicazione di addestramento viene eseguita in un container personalizzato, specifica quanto segue:
-
CUSTOM_CONTAINER_IMAGE_URI
: l'URI di un'immagine container Docker con il tuo codice di addestramento. Scopri come creare un'immagine container personalizzata. - CUSTOM_CONTAINER_COMMAND: (facoltativo) Il comando da richiamare all'avvio del container. Questo comando sostituisce il punto di ingresso predefinito del container.
- CUSTOM_CONTAINER_ARGS: (facoltativo) Gli argomenti da passare all'avvio del container.
-
- Se l'applicazione di addestramento è un pacchetto Python eseguito in un container predefinito, specifica quanto segue:
- PYTHON_PACKAGE_EXECUTOR_IMAGE_URI: l'URI dell'immagine container che esegue il pacchetto Python fornito. Scopri di più sui container predefiniti per l'addestramento.
- PYTHON_PACKAGE_URIS: il percorso Cloud Storage dei file dei pacchetti Python che costituiscono il programma di addestramento e i pacchetti dipendenti. Il numero massimo di URI del pacchetto è 100.
- PYTHON_MODULE: il nome del modulo Python da eseguire dopo l'installazione dei pacchetti.
- PYTHON_PACKAGE_ARGS: (facoltativo) Argomenti della riga di comando da passare al modulo Python.
- SERVICE_ACCOUNT: (facoltativo) L'account di servizio che Vertex AI utilizzerà per eseguire il codice. Scopri di più su come collegare un account di servizio personalizzato.
- TIMEOUT: (facoltativo) Il tempo di esecuzione massimo per ogni prova.
-
- Specifica LABEL_NAME e LABEL_VALUE per le etichette che vuoi applicare a questo job di ottimizzazione degli iperparametri.
Metodo HTTP e URL:
POST https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT/locations/LOCATION/hyperparameterTuningJobs
Corpo JSON della richiesta:
{ "displayName": DISPLAY_NAME, "studySpec": { "metrics": [ { "metricId": METRIC_ID, "goal": METRIC_GOAL } ], "parameters": [ { "parameterId": PARAMETER_ID, "scaleType": PARAMETER_SCALE, // Union field parameter_value_spec can be only one of the following: "doubleValueSpec": { "minValue": DOUBLE_MIN_VALUE, "maxValue": DOUBLE_MAX_VALUE }, "integerValueSpec": { "minValue": INTEGER_MIN_VALUE, "maxValue": INTEGER_MAX_VALUE }, "categoricalValueSpec": { "values": [ CATEGORICAL_VALUES ] }, "discreteValueSpec": { "values": [ DISCRETE_VALUES ] } // End of list of possible types for union field parameter_value_spec. "conditionalParameterSpecs": [ "parameterSpec": { CONDITIONAL_PARAMETER } // Union field parent_value_condition can be only one of the following: "parentIntValues": { "values": [INTEGERS_TO_MATCH] } "parentCategoricalValues": { "values": [CATEGORIES_TO_MATCH] } "parentDiscreteValues": { "values": [DISCRETE_VALUES_TO_MATCH] } // End of list of possible types for union field parent_value_condition. ] } ], "ALGORITHM": ALGORITHM }, "maxTrialCount": MAX_TRIAL_COUNT, "parallelTrialCount": PARALLEL_TRIAL_COUNT, "maxFailedTrialCount": MAX_FAILED_TRIAL_COUNT, "trialJobSpec": { "workerPoolSpecs": [ { "machineSpec": { "machineType": MACHINE_TYPE, "acceleratorType": ACCELERATOR_TYPE, "acceleratorCount": ACCELERATOR_COUNT }, "replicaCount": REPLICA_COUNT, // Union field task can be only one of the following: "containerSpec": { "imageUri": CUSTOM_CONTAINER_IMAGE_URI, "command": [ CUSTOM_CONTAINER_COMMAND ], "args": [ CUSTOM_CONTAINER_ARGS ] }, "pythonPackageSpec": { "executorImageUri": PYTHON_PACKAGE_EXECUTOR_IMAGE_URI, "packageUris": [ PYTHON_PACKAGE_URIS ], "pythonModule": PYTHON_MODULE, "args": [ PYTHON_PACKAGE_ARGS ] } // End of list of possible types for union field task. } ], "scheduling": { "TIMEOUT": TIMEOUT }, "serviceAccount": SERVICE_ACCOUNT }, "labels": { LABEL_NAME_1": LABEL_VALUE_1, LABEL_NAME_2": LABEL_VALUE_2 } }
Per inviare la richiesta, espandi una di queste opzioni:
Dovresti ricevere una risposta JSON simile alla seguente:
{ "name": "projects/12345/locations/us-central1/hyperparameterTuningJobs/6789", "displayName": "myHyperparameterTuningJob", "studySpec": { "metrics": [ { "metricId": "myMetric", "goal": "MINIMIZE" } ], "parameters": [ { "parameterId": "myParameter1", "integerValueSpec": { "minValue": "1", "maxValue": "128" }, "scaleType": "UNIT_LINEAR_SCALE" }, { "parameterId": "myParameter2", "doubleValueSpec": { "minValue": 1e-07, "maxValue": 1 }, "scaleType": "UNIT_LINEAR_SCALE" } ], "ALGORITHM": "RANDOM_SEARCH" }, "maxTrialCount": 20, "parallelTrialCount": 1, "trialJobSpec": { "workerPoolSpecs": [ { "machineSpec": { "machineType": "n1-standard-4" }, "replicaCount": "1", "pythonPackageSpec": { "executorImageUri": "us-docker.pkg.dev/vertex-ai/training/training-tf-cpu.2-1:latest", "packageUris": [ "gs://my-bucket/my-training-application/trainer.tar.bz2" ], "pythonModule": "my-trainer.trainer" } } ] } }
Java
Prima di provare questo esempio, segui le istruzioni di configurazione di Java riportate nella guida rapida di Vertex AI sull'utilizzo delle librerie client. Per maggiori informazioni, consulta la documentazione di riferimento dell'API Java Vertex AI.
Per eseguire l'autenticazione in Vertex AI, configura le Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Python
Per scoprire come installare o aggiornare l'SDK Vertex AI per Python, consulta Installare l'SDK Vertex AI per Python. Per saperne di più, consulta la documentazione di riferimento dell'API Python.
Configurazione del job di addestramento degli iperparametri
I job di ottimizzazione degli iperparametri cercano la migliore combinazione di iperparametri per ottimizzare le metriche. I job di ottimizzazione degli iperparametri eseguono più prove dell'applicazione di addestramento con set diversi di iperparametri.
Quando configuri un job di ottimizzazione degli iperparametri, devi specificare i seguenti dettagli:
Gli iperparametri da ottimizzare e le metriche da utilizzare per valutare le prove.
Dettagli sul numero di prove da eseguire come parte di questo job di ottimizzazione, ad esempio quanto segue:
Dettagli sul job di addestramento personalizzato che viene eseguito per ogni prova, ad esempio i seguenti:
Il tipo di macchina in cui vengono eseguiti i job delle prove e gli acceleratori utilizzati dal job.
I dettagli del job del container personalizzato o del pacchetto Python.
Limita il numero di prove
Decidi quante prove vuoi consentire al servizio di eseguire e imposta il valore maxTrialCount
nell'oggetto HyperparameterTuningJob.
Ci sono due interessi in conflitto da considerare quando si decide quante prove consentire:
- tempo (e quindi costo)
- accuracy
L'aumento del numero di prove in genere produce risultati migliori, ma non è sempre così. In genere, c'è un punto di rendimento in calo, dopodiché ulteriori prove hanno un impatto minimo o nullo sull'accuratezza. Prima di iniziare un job con un numero elevato di prove, è consigliabile iniziare con un numero limitato di prove per valutare l'effetto degli iperparametri che hai scelto sull'accuratezza del modello.
Per ottenere il massimo dall'ottimizzazione degli iperparametri, non devi impostare il valore massimo su un valore inferiore a 10 volte il numero di iperparametri utilizzati.
Prove parallele
Puoi specificare quante prove possono essere eseguite in parallelo impostando
parallelTrialCount
in HyperparameterTuningJob.
L'esecuzione di prove parallele offre il vantaggio di ridurre il tempo impiegato dal job di addestramento (in tempo reale, il tempo di elaborazione totale richiesto in genere non cambia). Tuttavia, l'esecuzione in parallelo può ridurre l'efficacia complessiva del job di ottimizzazione. Questo perché l'ottimizzazione degli iperparametri utilizza i risultati delle prove precedenti per stabilire i valori da assegnare agli iperparametri delle prove successive. Quando vengono eseguite in parallelo, alcune prove iniziano senza avere i vantaggi dei risultati di eventuali prove ancora in esecuzione.
Se utilizzi prove parallele, il servizio di ottimizzazione degli iperparametri esegue il provisioning di più cluster di elaborazione dell'addestramento (o più macchine singole nel caso di un addestramento a processo singolo). La specifica del pool di lavoro impostata per il job viene utilizzata per ogni singolo cluster di addestramento.
Gestire le prove non riuscite
Se le prove di ottimizzazione degli iperparametri escono con errori, è consigliabile terminare il job di addestramento in anticipo. Imposta il campo maxFailedTrialCount
in
HyperparameterTuningJob sul numero di prove non riuscite che
vuoi consentire. Se non viene superato questo numero di prove, Vertex AI termina il job di addestramento. Il valore di maxFailedTrialCount
deve essere inferiore o uguale a maxTrialCount
.
Se non imposti maxFailedTrialCount
o lo imposti su 0
,
Vertex AI utilizza le seguenti regole per gestire le prove non riuscite:
- Se la prima prova del job non va a buon fine, Vertex AI termina il job immediatamente. Un errore durante la prima prova suggerisce un problema nel codice di addestramento, quindi è probabile che anche altre prove non vadano a buon fine. Terminare il job consente di diagnosticare il problema senza dover attendere ulteriori prove e con costi maggiori.
- Se la prima prova ha esito positivo, Vertex AI potrebbe terminare il job dopo gli errori durante le prove successive in base a uno dei seguenti criteri:
- Il numero di prove non riuscite è aumentato troppo.
- Il rapporto tra prove non riuscite e prove riuscite è aumentato troppo.
Queste regole sono soggette a modifiche. Per garantire un comportamento specifico,
imposta il campo maxFailedTrialCount
.
Gestisci job di ottimizzazione degli iperparametri
Le seguenti sezioni descrivono come gestire i job di ottimizzazione degli iperparametri.
Recupera le informazioni su un job di ottimizzazione degli iperparametri
I seguenti esempi di codice mostrano come recuperare un job di ottimizzazione degli iperparametri.
gcloud
Utilizza il comando gcloud ai hp-tuning-jobs describe
:
gcloud ai hp-tuning-jobs describe ID_OR_NAME \
--region=LOCATION
Sostituisci quanto segue:
ID_OR_NAME
: il nome o l'ID numerico diHyperparameterTuningJob
. (L'ID è l'ultima parte del nome).Potresti aver visto l'ID o il nome quando hai creato
HyperparameterTuningJob
. Se non conosci l'ID o il nome, puoi eseguire il comandogcloud ai hp-tuning-jobs list
e cercare la risorsa appropriata.LOCATION
: la regione in cui è stato creato ilHyperparameterTuningJob
.
REST
Utilizza il seguente esempio di codice per recuperare un job di ottimizzazione degli iperparametri utilizzando il metodo get
della risorsa hyperparameterTuningJob
.
Prima di utilizzare i dati della richiesta, effettua le seguenti sostituzioni:
-
LOCATION
: la regione in cui è stato creato ilHyperparameterTuningJob
. - NAME: il nome del job di ottimizzazione degli iperparametri. Il nome del job utilizza il seguente
formato
projects/{project}/LOCATIONS/{LOCATION}/hyperparameterTuningJobs/{hyperparameterTuningJob}
.
Metodo HTTP e URL:
GET https://LOCATION-aiplatform.googleapis.com/v1/NAME
Per inviare la richiesta, espandi una di queste opzioni:
Dovresti ricevere una risposta JSON simile alla seguente:
{ "name": "projects/12345/LOCATIONs/us-central1/hyperparameterTuningJobs/6789", "displayName": "my-hyperparameter-tuning-job", "studySpec": { "metrics": [ { "metricId": "my_metric", "goal": "MINIMIZE" } ], "parameters": [ { "parameterId": "my_parameter", "doubleValueSpec": { "minValue": 1e-05, "maxValue": 1 } } ] }, "maxTrialCount": 3, "parallelTrialCount": 1, "trialJobSpec": { "workerPoolSpecs": [ { "machineSpec": { "machineType": "n1-standard-4" }, "replicaCount": "1", "pythonPackageSpec": { "executorImageUri": "us-docker.pkg.dev/vertex-ai/training/training-tf-cpu.2-1:latest", "packageUris": [ "gs://my-bucket/my-training-application/trainer.tar.bz2" ], "pythonModule": "my-trainer.trainer" } } ] }, "trials": [ { "id": "2", "state": "SUCCEEDED", "parameters": [ { "parameterId": "my_parameter", "value": 0.71426874725564571 } ], "finalMeasurement": { "stepCount": "2", "metrics": [ { "metricId": "my_metric", "value": 0.30007445812225342 } ] }, "startTime": "2020-09-09T23:39:15.549112551Z", "endTime": "2020-09-09T23:47:08Z" }, { "id": "3", "state": "SUCCEEDED", "parameters": [ { "parameterId": "my_parameter", "value": 0.3078893356622992 } ], "finalMeasurement": { "stepCount": "2", "metrics": [ { "metricId": "my_metric", "value": 0.30000102519989014 } ] }, "startTime": "2020-09-09T23:49:22.451699360Z", "endTime": "2020-09-09T23:57:15Z" }, { "id": "1", "state": "SUCCEEDED", "parameters": [ { "parameterId": "my_parameter", "value": 0.500005 } ], "finalMeasurement": { "stepCount": "2", "metrics": [ { "metricId": "my_metric", "value": 0.30005377531051636 } ] }, "startTime": "2020-09-09T23:23:12.283374629Z", "endTime": "2020-09-09T23:36:56Z" } ], "state": "JOB_STATE_SUCCEEDED", "createTime": "2020-09-09T23:22:31.777386Z", "startTime": "2020-09-09T23:22:34Z", "endTime": "2020-09-10T01:31:24.271307Z", "updateTime": "2020-09-10T01:31:24.271307Z" }
Java
Prima di provare questo esempio, segui le istruzioni di configurazione di Java riportate nella guida rapida di Vertex AI sull'utilizzo delle librerie client. Per maggiori informazioni, consulta la documentazione di riferimento dell'API Java Vertex AI.
Per eseguire l'autenticazione in Vertex AI, configura le Credenziali predefinite dell'applicazione. Per maggiori informazioni, consulta Configurare l'autenticazione per un ambiente di sviluppo locale.
Python
Per scoprire come installare o aggiornare l'SDK Vertex AI per Python, consulta Installare l'SDK Vertex AI per Python. Per saperne di più, consulta la documentazione di riferimento dell'API Python.
Annullamento di un job di ottimizzazione iperparametri
I seguenti esempi di codice mostrano come annullare un job di ottimizzazione degli iperparametri.
gcloud
Utilizza il comando gcloud ai hp-tuning-jobs cancel
:
gcloud ai hp-tuning-jobs cancel ID_OR_NAME \
--region=LOCATION
Sostituisci quanto segue:
ID_OR_NAME
: il nome o l'ID numerico diHyperparameterTuningJob
. (L'ID è l'ultima parte del nome).Potresti aver visto l'ID o il nome quando hai creato
HyperparameterTuningJob
. Se non conosci l'ID o il nome, puoi eseguire il comandogcloud ai hp-tuning-jobs list
e cercare la risorsa appropriata.LOCATION
: la regione in cui è stato creato ilHyperparameterTuningJob
.
REST
Utilizza il seguente esempio di codice per annullare un job di ottimizzazione degli iperparametri utilizzando il metodo cancel
della risorsa hyperparameterTuningJob
.
Prima di utilizzare i dati della richiesta, effettua le seguenti sostituzioni:
-
LOCATION
: la regione in cui è stato creato ilHyperparameterTuningJob
. - NAME: il nome del job di ottimizzazione degli iperparametri. Il nome del job utilizza il seguente
formato
projects/{project}/locations/{location}/hyperparameterTuningJobs/{hyperparameterTuningJob}
.
Metodo HTTP e URL:
POST https://LOCATION-aiplatform.googleapis.com/v1/NAME:cancel
Per inviare la richiesta, espandi una di queste opzioni:
Dovresti ricevere un codice di stato riuscito (2xx) e una risposta vuota.
Python
Per scoprire come installare o aggiornare l'SDK Vertex AI per Python, consulta Installare l'SDK Vertex AI per Python. Per saperne di più, consulta la documentazione di riferimento dell'API Python.
Eliminazione di un job di ottimizzazione iperparametri
I seguenti esempi di codice mostrano come eliminare un job di ottimizzazione degli iperparametri utilizzando l'SDK Vertex AI per Python e l'API REST.
REST
Utilizza il seguente esempio di codice per eliminare un job di ottimizzazione degli iperparametri utilizzando il metodo delete
della risorsa hyperparameterTuningJob
.
Prima di utilizzare i dati della richiesta, effettua le seguenti sostituzioni:
- LOCATION: la tua regione.
- NAME: il nome del job di ottimizzazione degli iperparametri. Il nome del job utilizza il seguente
formato
projects/{project}/LOCATIONs/{LOCATION}/hyperparameterTuningJobs/{hyperparameterTuningJob}
.
Metodo HTTP e URL:
DELETE https://LOCATION-aiplatform.googleapis.com/v1/NAME
Per inviare la richiesta, espandi una di queste opzioni:
Dovresti ricevere un codice di stato riuscito (2xx) e una risposta vuota.
Python
Per scoprire come installare o aggiornare l'SDK Vertex AI per Python, consulta Installare l'SDK Vertex AI per Python. Per saperne di più, consulta la documentazione di riferimento dell'API Python.
Passaggi successivi
- Scopri di più sui concetti relativi all'ottimizzazione degli iperparametri.