Gli iperparametri sono variabili che regolano il processo di addestramento di un modello, come come dimensione del batch o il numero di strati nascosti in una rete neurale profonda. L'ottimizzazione degli iperparametri cerca la migliore combinazione di iperparametri ottimizzando i valori delle metriche in una serie di prove. Le metriche sono riassunti scalari aggiunti al trainer, come l'accuratezza del modello.
Scopri di più sull'ottimizzazione degli iperparametri mediante Vertex AI. Per un esempio dettagliato, consulta la Vertex AI: codelab sull'ottimizzazione degli iperparametri
In questa pagina viene illustrato come:
Prepara l'applicazione di addestramento per l'ottimizzazione degli iperparametri aggiornandola per accettare gli iperparametri come riga di comando argomenti e i valori delle metriche dei report per Vertex AI.
Crea il tuo job di addestramento degli iperparametri. Per ulteriori informazioni sulle opzioni di configurazione, consulta Informazioni sull'ottimizzazione degli iperparametri configurazione.
Prepara la tua candidatura per la formazione
In un job di ottimizzazione degli iperparametri, Vertex AI crea delle prove un job di addestramento con diversi set di iperparametri e valuta l'efficacia di una prova utilizzando le metriche specificate. Vertex AI passa i valori degli iperparametri all'applicazione di addestramento sotto forma di riga di comando argomenti. Affinché Vertex AI valuti l'efficacia di una prova, l'applicazione di addestramento deve segnalare le metriche a Vertex AI.
Nelle sezioni seguenti vengono descritte:
- In che modo Vertex AI passa gli iperparametri all'addestramento un'applicazione.
- Opzioni per il trasferimento delle metriche dall'applicazione di addestramento Vertex AI.
Scopri di più sui requisiti per le applicazioni di addestramento personalizzato che eseguono su Vertex AI, leggi Requisiti del codice di addestramento.
Gestisci gli argomenti della riga di comando per gli iperparametri da ottimizzare
Vertex AI imposta gli argomenti della riga di comando quando chiama il tuo addestramento un'applicazione. Utilizza gli argomenti della riga di comando nel tuo codice:
Definisci un nome per ogni argomento degli iperparametri e analizzalo utilizzando analizzatore sintattico di argomenti che preferisci, ad esempio
argparse
. Utilizza gli stessi nomi di argomenti quando configuri l'iperparametro un lavoro di addestramento lungo.Ad esempio, se l'applicazione di addestramento è un modulo Python denominato
my_trainer
e stai ottimizzando un iperparametro denominatolearning_rate
, Vertex AI avvia ogni prova con un comando come il seguente:python3 -m my_trainer --learning_rate learning-rate-in-this-trial
Vertex AI determina learning-rate-in-this-trial e la passa utilizzando l'argomento
learning_rate
.Assegnare i valori dagli argomenti della riga di comando agli iperparametri in il codice di addestramento.
Scopri di più sui requisiti per l'analisi della riga di comando argomenti.
Segnala le tue metriche a Vertex AI
Per segnalare le tue metriche a Vertex AI, utilizza la cloudml-hypertune
pacchetto Python. Questa libreria ti aiuta
per generare report sulle metriche a Vertex AI.
Scopri di più sui report sulle metriche degli iperparametri.
Creazione di un job di ottimizzazione iperparametri
A seconda dello strumento che vuoi usare per creare un HyperparameterTuningJob
,
seleziona una delle seguenti schede:
Console
Nella console Google Cloud, non puoi creare una risorsa HyperparameterTuningJob
strato Add. Tuttavia, puoi creare una risorsa TrainingPipeline
che crea un'istanza
HyperparameterTuningJob
.
Le seguenti istruzioni descrivono come creare un elemento TrainingPipeline
che
crea un HyperparameterTuningJob
e non fa altro. Se vuoi
utilizza le funzionalità aggiuntive di TrainingPipeline
, come l'addestramento con un
sul set di dati, consulta Creazione di
di grandi dimensioni.
Nella console Google Cloud, nella sezione Vertex AI, vai alla pagina Pipeline di addestramento.
Fai clic su
Crea per aprire il riquadro Addestra nuovo modello.Nel passaggio Metodo di addestramento, specifica le seguenti impostazioni:
Nell'elenco a discesa Set di dati, seleziona Nessuna del set di dati.
Seleziona Addestramento personalizzato (avanzato).
Fai clic su Continua.
Nel passaggio Dettagli modello, scegli Addestra nuovo modello o Addestra nuova versione. Se selezioni Addestra nuovo modello, inserisci un nome a tua scelta. MODEL_NAME per il tuo modello. Fai clic su Continua.
Nel passaggio Container di addestramento, specifica le seguenti impostazioni:
Scegli se utilizzare un container predefinito o un container personalizzato container per l'addestramento.
A seconda della tua scelta, esegui una delle seguenti operazioni:
Se vuoi usare un container predefinito per l'addestramento, Vertex AI con le informazioni necessarie per utilizzare l'addestramento caricato su Cloud Storage:
Utilizza il framework modello e la versione del framework modello elenchi a discesa per specificare la container che vuoi per gli utilizzi odierni.
Nel campo Posizione pacchetto, specifica la URI Cloud Storage dell'applicazione di addestramento Python che che hai creato caricato. Questo di solito termina con
.tar.gz
.Nel campo del modulo Python, inserisci il nome del modulo del tuo voce dell'applicazione di addestramento punto di accesso.
Se vuoi utilizzare un container personalizzato addestramento, quindi Campo Immagine container, specifica Artifact Registry o l'URI Docker Hub dell'immagine container.
Nel campo Directory di output del modello, potresti specificare l'URI Cloud Storage di una directory in al bucket a cui hai accesso. Non è necessario che la directory esista ancora.
Questo valore viene passato a Vertex AI nella API
baseOutputDirectory
, che imposta diverse variabili di ambiente a cui l'applicazione di addestramento può accedere durante l'esecuzione.Facoltativo: nel campo Argomenti puoi specificare gli argomenti per Vertex AI da utilizzare quando inizia a eseguire il codice di addestramento. La lunghezza massima di tutti gli argomenti combinati è di 100.000 caratteri. Il comportamento di questi argomenti varia a seconda del tipo di container che stai utilizzando:
Se utilizzi un container predefinito, Vertex AI passa gli argomenti come flag della riga di comando al tuo modulo Python.
Se utilizzi un container personalizzato, Vertex AI sostituisce l'istruzione
CMD
del contenitore con il argomenti.
Fai clic su Continua.
Nel passaggio Ottimizzazione degli iperparametri, seleziona Abilita la casella di controllo Ottimizzazione degli iperparametri e specifica le seguenti impostazioni:
Nella sezione Nuovo iperparametro, specifica il Nome parametro e Tipo di un iperparametro che vuoi ottimizzare. In base a quale specifico, configura le impostazioni aggiuntive degli iperparametri vengono visualizzate.
Scopri di più sui tipi di iperparametri e sui relativi configurazioni.
Se vuoi ottimizzare più di un iperparametro, fai clic su Aggiungi nuovo e ripeti il passaggio precedente nella nuova sezione visualizzata.
Ripeti questa operazione per ogni iperparametro che vuoi ottimizzare.
Nel campo Metrica da ottimizzare e nell'elenco a discesa Obiettivo, specifica il nome e l'obiettivo della metrica che vuoi ottimizzare.
Nel campo Numero massimo di prove, specifica il numero massimo di prove prove che vuoi venga eseguito da Vertex AI per il tuo iperparametro un job di ottimizzazione.
Nel campo Numero massimo di prove parallele, specifica il numero massimo di prove parallele di prove per consentire l'esecuzione contemporaneamente di Vertex AI nel tempo.
Nell'elenco a discesa Algoritmo di ricerca, specifica un algoritmo di ricerca algoritmo per Vertex AI.
Ignorare l'opzione di attivazione/disattivazione Attiva l'interruzione anticipata, che non ha alcun effetto.
Fai clic su Continua.
Nel passaggio Compute e prezzi, specifica le seguenti impostazioni:
Nell'elenco a discesa Regione, seleziona una "regione che supporta di addestramento"
Nella sezione Pool di worker 0, specifica compute risorse da usare per la formazione.
Se specifichi gli acceleratori, assicurati che il tipo di acceleratore inserito scegli è disponibile nel regione.
Se desideri eseguire attività distribuite addestramento, quindi fai clic su Aggiungi altro nei pool di worker e specificare un set aggiuntivo di risorse di computing per ogni pool di worker aggiuntivo desiderato.
Fai clic su Continua.
Nel passaggio Container di previsione, seleziona Nessuna previsione container.
Fai clic su Avvia addestramento per avviare la pipeline di addestramento personalizzato.
gcloud
I passaggi seguenti mostrano come utilizzare Google Cloud CLI per creare
HyperparameterTuningJob
con una configurazione relativamente minima. Per apprendere
su tutte le opzioni di configurazione che puoi utilizzare per questa attività, consulta le
documentazione di riferimento per il comando gcloud ai hp-tuning-jobs create
e la risorsa API HyperparameterTuningJob
.
Crea un file YAML denominato
config.yaml
con alcuni campi API che ti interessano da specificare per il nuovoHyerparameterTuningJob
:config.yaml
studySpec: metrics: - metricId: METRIC_ID goal: METRIC_GOAL parameters: - parameterId: HYPERPARAMETER_ID doubleValueSpec: minValue: DOUBLE_MIN_VALUE maxValue: DOUBLE_MAX_VALUE trialJobSpec: workerPoolSpecs: - machineSpec: machineType: MACHINE_TYPE replicaCount: 1 containerSpec: imageUri: CUSTOM_CONTAINER_IMAGE_URI
Sostituisci quanto segue:
METRIC_ID
: il nome di una metrica degli iperparametri per ottimizzare i risultati. Il codice di addestramento deve segnalare questa metrica quando viene eseguito.METRIC_GOAL
: l'obiettivo della tua metrica degli iperparametri,MAXIMIZE
oMINIMIZE
.HYPERPARAMETER_ID
: il nome di un iperparametro da ottimizzare. Il codice di addestramento deve analizzare un flag della riga di comando con questo nome. Per questo esempio, l'iperparametro deve assumere valori con rappresentazione in virgola mobile. Scopri di più sugli altri tipi di dati degli iperparametri.DOUBLE_MIN_VALUE
: il valore minimo (un numero) che Vertex AI deve provare per questo iperparametro.DOUBLE_MAX_VALUE
: il valore massimo (un numero) che Vertex AI deve provare per questo iperparametro.MACHINE_TYPE
: il tipo di VM da utilizzare per l'addestramento.CUSTOM_CONTAINER_IMAGE_URI
: l'URI di un Docker l'immagine container con il codice di addestramento. Scopri come crea un'immagine container personalizzata.Per questo esempio devi utilizzare un container personalizzato. Le risorse di
HyperparameterTuningJob
supportano anche di addestramento in una distribuzione di origine Python invece che in una containerizzato.
Nella stessa directory del file
config.yaml
, esegui la shell seguente :gcloud ai hp-tuning-jobs create \ --region=LOCATION \ --display-name=DISPLAY_NAME \ --max-trial-count=MAX_TRIAL_COUNT \ --parallel-trial-count=PARALLEL_TRIAL_COUNT \ --config=config.yaml
Sostituisci quanto segue:
LOCATION
: la regione in cui vuoi creareHyperparameterTuningJob
. Utilizza una regione che supporta l'addestramento personalizzato.DISPLAY_NAME
: un nome visualizzato facile da ricordare a tua scelta perHyperparameterTuningJob
. Informazioni su requisiti per i nomi delle risorse.MAX_TRIAL_COUNT
: il numero massimo di prove da eseguire.PARALLEL_TRIAL_COUNT
: il numero massimo di prove da eseguire in parallelo.
REST
Usa il seguente esempio di codice per creare un job di ottimizzazione degli iperparametri utilizzando
il metodo create
del metodo hyperparameterTuningJob
delle risorse.
Prima di utilizzare i dati della richiesta, effettua le seguenti sostituzioni:
-
LOCATION
: la regione in cui vuoi creareHyperparameterTuningJob
. Utilizza una regione che supporta l'addestramento personalizzato. - PROJECT: il tuo ID progetto.
-
DISPLAY_NAME
: un nome visualizzato facile da ricordare a tua scelta perHyperparameterTuningJob
. Informazioni su requisiti per i nomi delle risorse. - Specifica le metriche:
-
METRIC_ID
: il nome di una metrica degli iperparametri per ottimizzare i risultati. Il codice di addestramento deve segnalare questa metrica quando viene eseguito. -
METRIC_GOAL
: l'obiettivo della tua metrica degli iperparametri,MAXIMIZE
oMINIMIZE
.
-
- Specifica gli iperparametri:
-
HYPERPARAMETER_ID
: il nome di un iperparametro da ottimizzare. Il codice di addestramento deve analizzare un flag della riga di comando con questo nome. - PARAMETER_SCALE: (facoltativo) Come deve essere scalato il parametro. Non impostare
per i parametri CATEGORICAL. Può essere
UNIT_LINEAR_SCALE
,UNIT_LOG_SCALE
,UNIT_REVERSE_LOG_SCALE
oSCALE_TYPE_UNSPECIFIED
- Se il tipo di questo iperparametro è DOPPIO, specifica il numero minimo (DOUBLE_MIN_VALUE) e massimi (DOUBLE_MAX_VALUE) per questo iperparametro.
- Se il tipo di questo iperparametro è INTEGER, specifica il numero minimo (INTEGER_MIN_VALUE) e massimo (INTEGER_MAX_VALUE) per per questo iperparametro.
- Se il tipo di questo iperparametro è CATEGORICO, specifica i valori accettabili (CATEGORICAL_VALUES) come array di stringhe.
- Se il tipo di questo iperparametro è DISCRETE, specifica i valori accettabili (DISCRETE_VALUES) come un array di numeri.
- Specifica gli iperparametri condizionali. Gli iperparametri condizionali vengono aggiunti a una prova quando
il valore dell'iperparametro principale corrisponde alla condizione specificata. Scopri di più su
iperparametri condizionali.
- CONDITIONAL_PARAMETER: il
ParameterSpec
del condizionale . Questa specifica include nome, scala, intervallo di valori del parametro, ed eventuali parametri condizionali che dipendono da questo iperparametro. - Se il tipo dell'iperparametro principale è INTEGER, specifica un elenco di numeri interi come INTEGERS_TO_MATCH. Se il valore dell'iperparametro principale corrisponde a uno dei specificati, questo parametro condizionale viene aggiunto alla prova.
- Se il tipo dell'iperparametro principale è CATEGORICO, specifica un elenco di categorie come CATEGORIES_TO_MATCH. Se il valore dell'iperparametro principale corrisponde a uno dei i valori specificati, questo parametro condizionale viene aggiunto alla prova.
- Se il tipo dell'iperparametro principale è DISCRETE, specifica un elenco di numeri interi come DISCRETE_VALUES_TO_MATCH. Se il valore dell'iperparametro principale corrisponde a uno dei i valori specificati, questo parametro condizionale viene aggiunto alla prova.
- CONDITIONAL_PARAMETER: il
-
- ALGORITHM: (facoltativo) L'algoritmo di ricerca da utilizzare in questa ottimizzazione degli iperparametri
un lavoro. Può essere
ALGORITHM_UNSPECIFIED
,GRID_SEARCH
oRANDOM_SEARCH
. -
MAX_TRIAL_COUNT
: il numero massimo di prove da eseguire. -
PARALLEL_TRIAL_COUNT
: il numero massimo di prove da eseguire in parallelo. - MAX_FAILED_TRIAL_COUNT: il numero di job che possono avere esito negativo prima dell'iperparametro il job di ottimizzazione non riesce.
- Definisci il job di addestramento personalizzato di prova:
-
MACHINE_TYPE
: il tipo di VM da utilizzare per l'addestramento. - ACCELERATOR_TYPE: (facoltativo) Il tipo di acceleratore da associare a ogni Google Cloud.
- ACCELERATOR_COUNT: (facoltativo) Il numero di acceleratori a cui associarsi ogni prova.
- REPLICA_COUNT: il numero di repliche dei worker da usare per ogni prova.
- Se l'applicazione di addestramento viene eseguita in un container personalizzato, specifica quanto segue:
-
CUSTOM_CONTAINER_IMAGE_URI
: l'URI di un Docker l'immagine container con il codice di addestramento. Scopri come crea un'immagine container personalizzata. - CUSTOM_CONTAINER_COMMAND: (facoltativo) Il comando da richiamare quando container. Questo comando esegue l'override dell'entry point predefinito del container.
- CUSTOM_CONTAINER_ARGS: (facoltativo) Gli argomenti da passare quando avviando il container.
-
- Se l'applicazione di addestramento è un pacchetto Python eseguito in un container predefinito,
specificare quanto segue:
- PYTHON_PACKAGE_EXECUTOR_IMAGE_URI: l'URI dell'immagine container che esegue pacchetto Python fornito. Scopri di più su container predefiniti per l'addestramento.
- PYTHON_PACKAGE_URIS: la località di Cloud Storage del file Python dei pacchetti, ovvero il programma di addestramento e i pacchetti dipendenti. Il valore massimo di URI dei pacchetti è pari a 100.
- PYTHON_MODULE: il nome del modulo Python da eseguire dopo l'installazione dei pacchetti.
- PYTHON_PACKAGE_ARGS: (facoltativo) Argomenti della riga di comando da passare il modulo Python.
- SERVICE_ACCOUNT: (facoltativo) L'account di servizio che Vertex AI per eseguire il codice. Scopri di più su collegando un account di servizio personalizzato.
- TIMEOUT: (facoltativo) Il tempo di esecuzione massimo per ogni prova.
-
- Specifica LABEL_NAME e LABEL_VALUE per tutte le etichette che vuoi si applicano a questo job di ottimizzazione degli iperparametri.
Metodo HTTP e URL:
POST https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT/locations/LOCATION/hyperparameterTuningJobs
Corpo JSON della richiesta:
{ "displayName": DISPLAY_NAME, "studySpec": { "metrics": [ { "metricId": METRIC_ID, "goal": METRIC_GOAL } ], "parameters": [ { "parameterId": PARAMETER_ID, "scaleType": PARAMETER_SCALE, // Union field parameter_value_spec can be only one of the following: "doubleValueSpec": { "minValue": DOUBLE_MIN_VALUE, "maxValue": DOUBLE_MAX_VALUE }, "integerValueSpec": { "minValue": INTEGER_MIN_VALUE, "maxValue": INTEGER_MAX_VALUE }, "categoricalValueSpec": { "values": [ CATEGORICAL_VALUES ] }, "discreteValueSpec": { "values": [ DISCRETE_VALUES ] } // End of list of possible types for union field parameter_value_spec. "conditionalParameterSpecs": [ "parameterSpec": { CONDITIONAL_PARAMETER } // Union field parent_value_condition can be only one of the following: "parentIntValues": { "values": [INTEGERS_TO_MATCH] } "parentCategoricalValues": { "values": [CATEGORIES_TO_MATCH] } "parentDiscreteValues": { "values": [DISCRETE_VALUES_TO_MATCH] } // End of list of possible types for union field parent_value_condition. ] } ], "ALGORITHM": ALGORITHM }, "maxTrialCount": MAX_TRIAL_COUNT, "parallelTrialCount": PARALLEL_TRIAL_COUNT, "maxFailedTrialCount": MAX_FAILED_TRIAL_COUNT, "trialJobSpec": { "workerPoolSpecs": [ { "machineSpec": { "machineType": MACHINE_TYPE, "acceleratorType": ACCELERATOR_TYPE, "acceleratorCount": ACCELERATOR_COUNT }, "replicaCount": REPLICA_COUNT, // Union field task can be only one of the following: "containerSpec": { "imageUri": CUSTOM_CONTAINER_IMAGE_URI, "command": [ CUSTOM_CONTAINER_COMMAND ], "args": [ CUSTOM_CONTAINER_ARGS ] }, "pythonPackageSpec": { "executorImageUri": PYTHON_PACKAGE_EXECUTOR_IMAGE_URI, "packageUris": [ PYTHON_PACKAGE_URIS ], "pythonModule": PYTHON_MODULE, "args": [ PYTHON_PACKAGE_ARGS ] } // End of list of possible types for union field task. } ], "scheduling": { "TIMEOUT": TIMEOUT }, "serviceAccount": SERVICE_ACCOUNT }, "labels": { LABEL_NAME_1": LABEL_VALUE_1, LABEL_NAME_2": LABEL_VALUE_2 } }
Per inviare la richiesta, espandi una delle seguenti opzioni:
Dovresti ricevere una risposta JSON simile alla seguente:
{ "name": "projects/12345/locations/us-central1/hyperparameterTuningJobs/6789", "displayName": "myHyperparameterTuningJob", "studySpec": { "metrics": [ { "metricId": "myMetric", "goal": "MINIMIZE" } ], "parameters": [ { "parameterId": "myParameter1", "integerValueSpec": { "minValue": "1", "maxValue": "128" }, "scaleType": "UNIT_LINEAR_SCALE" }, { "parameterId": "myParameter2", "doubleValueSpec": { "minValue": 1e-07, "maxValue": 1 }, "scaleType": "UNIT_LINEAR_SCALE" } ], "ALGORITHM": "RANDOM_SEARCH" }, "maxTrialCount": 20, "parallelTrialCount": 1, "trialJobSpec": { "workerPoolSpecs": [ { "machineSpec": { "machineType": "n1-standard-4" }, "replicaCount": "1", "pythonPackageSpec": { "executorImageUri": "us-docker.pkg.dev/vertex-ai/training/training-tf-cpu.2-1:latest", "packageUris": [ "gs://my-bucket/my-training-application/trainer.tar.bz2" ], "pythonModule": "my-trainer.trainer" } } ] } }
Java
Prima di provare questo esempio, segui le istruzioni per la configurazione di Java nel Guida rapida di Vertex AI con librerie client. Per ulteriori informazioni, consulta API Java Vertex AI documentazione di riferimento.
Per eseguire l'autenticazione su Vertex AI, configura Credenziali predefinite dell'applicazione. Per ulteriori informazioni, vedi Configura l'autenticazione per un ambiente di sviluppo locale.
Python
Per scoprire come installare o aggiornare l'SDK Vertex AI per Python, vedi Installare l'SDK Vertex AI per Python. Per ulteriori informazioni, consulta documentazione di riferimento dell'API Python.
Configurazione del job di addestramento degli iperparametri
I job di ottimizzazione degli iperparametri cercano la migliore combinazione di iperparametri per ottimizzare le metriche. Per farlo, i job di ottimizzazione degli iperparametri eseguono l'applicazione di addestramento con diversi set di dati e regolare gli iperparametri.
Quando configuri un job di ottimizzazione degli iperparametri, devi specificare seguenti dettagli:
Gli iperparametri da ottimizzare e le metriche da utilizzare valutare le prove.
Dettagli sul numero di prove da eseguire come parte di questo job di ottimizzazione. ad esempio:
Dettagli sul job di addestramento personalizzato che viene eseguito per ogni prova, ad esempio le seguenti:
Il tipo di macchina in cui vengono eseguiti i job di prova e acceleratori utilizzati dal job.
I dettagli del container personalizzato o del job del pacchetto Python.
Limita il numero di prove
Decidi quante prove vuoi consentire l'esecuzione e la configurazione del servizio
il valore maxTrialCount
in HyperparameterTuningJob
.
Ci sono due interessi in conflitto da considerare quando si decide quante prove consenti:
- tempo (e quindi costo)
- accuracy
L'aumento del numero di prove generalmente produce risultati migliori, ma non sempre così. Di solito, c'è un punto in cui i risultati sono decrescenti dopo il quale prove aggiuntive hanno poco o nessun effetto sulla precisione. Prima di avviare un job con un numero elevato di prove, ti consigliamo di iniziare con un di prove per valutare l'effetto degli iperparametri scelti l'accuratezza del modello.
Per ottenere il massimo dall'ottimizzazione degli iperparametri, non devi impostare il tuo valore massimo inferiore a dieci volte il numero di iperparametri utilizzati.
Prove parallele
Puoi specificare quante prove possono essere eseguite in parallelo impostando
parallelTrialCount
in HyperparameterTuningJob.
Eseguire prove parallele ha il vantaggio di ridurre il tempo dedicato al job di addestramento. (in tempo reale, il tempo di elaborazione totale) richiesta non viene generalmente modificata). Tuttavia, l'esecuzione in parallelo può ridurre l'efficacia complessiva del job di ottimizzazione. Il motivo è che l'ottimizzazione degli iperparametri utilizza i risultati delle prove precedenti per informare i valori da assegnare al e gli iperparametri delle prove successive. Alcune prove vengono eseguite in parallelo iniziare senza avere il vantaggio dei risultati delle prove ancora in esecuzione.
Se usi prove parallele, il servizio di ottimizzazione degli iperparametri in più cluster di elaborazione dell'addestramento (o più macchine singole caso di formatore a processo singolo). La specifica del pool di lavoro impostata per il job viene utilizzato per ogni singolo cluster di addestramento.
Gestire le prove non riuscite
Se le prove di ottimizzazione degli iperparametri escono con errori, potresti
il job di addestramento in anticipo. Imposta il campo maxFailedTrialCount
nel
HyperparameterTuningJob al numero di prove non riuscite che
che vuoi consentire. Se questo numero di prove non va a buon fine, Vertex AI
termina il job di addestramento. Il valore maxFailedTrialCount
deve essere minore o uguale a maxTrialCount
.
Se non imposti maxFailedTrialCount
o 0
,
Vertex AI utilizza le seguenti regole per gestire le prove non riuscite:
- Se la prima prova del job non va a buon fine, Vertex AI termina il job. immediatamente. Un errore durante la prima prova suggerisce un problema nel codice di addestramento, quindi è probabile che anche altre prove non vadano a buon fine. Il termine del job consente a diagnosticare il problema senza aspettare ulteriori prove e costi maggiori.
- Se la prima prova ha esito positivo, Vertex AI potrebbe terminare il job dopo
errori durante le prove successive in base a uno dei seguenti criteri:
- Il numero di prove non riuscite è aumentato troppo.
- Il rapporto tra prove non riuscite e prove riuscite è aumentato troppo elevato.
Queste regole sono soggette a modifiche. Per garantire un comportamento specifico,
imposta il campo maxFailedTrialCount
.
Gestisci i job di ottimizzazione degli iperparametri
Le sezioni seguenti descrivono come gestire i job di ottimizzazione degli iperparametri.
Recuperare informazioni su un job di ottimizzazione degli iperparametri
I seguenti esempi di codice mostrano come recuperare un'ottimizzazione degli iperparametri un lavoro.
gcloud
Usa il comando gcloud ai hp-tuning-jobs describe
:
gcloud ai hp-tuning-jobs describe ID_OR_NAME \
--region=LOCATION
Sostituisci quanto segue:
ID_OR_NAME
: il name o l'ID numerico diHyperparameterTuningJob
. (L'ID è l'ultima parte il nome.Potresti aver visto l'ID o il nome quando hai creato
HyperparameterTuningJob
. Se non conosci l'ID o il nome, puoi eseguiregcloud ai hp-tuning-jobs list
e cerca il token risorsa.LOCATION
: la regione in cuiHyperparameterTuningJob
è stata creata.
REST
Usa il seguente esempio di codice per recuperare un job di ottimizzazione degli iperparametri utilizzando
il metodo get
del metodo hyperparameterTuningJob
delle risorse.
Prima di utilizzare i dati della richiesta, effettua le seguenti sostituzioni:
-
LOCATION
: la regione in cuiHyperparameterTuningJob
è stata creata. - NAME: il nome del job di ottimizzazione degli iperparametri. Il nome del job utilizza quanto segue
formato
projects/{project}/LOCATIONS/{LOCATION}/hyperparameterTuningJobs/{hyperparameterTuningJob}
.
Metodo HTTP e URL:
GET https://LOCATION-aiplatform.googleapis.com/v1/NAME
Per inviare la richiesta, espandi una delle seguenti opzioni:
Dovresti ricevere una risposta JSON simile alla seguente:
{ "name": "projects/12345/LOCATIONs/us-central1/hyperparameterTuningJobs/6789", "displayName": "my-hyperparameter-tuning-job", "studySpec": { "metrics": [ { "metricId": "my_metric", "goal": "MINIMIZE" } ], "parameters": [ { "parameterId": "my_parameter", "doubleValueSpec": { "minValue": 1e-05, "maxValue": 1 } } ] }, "maxTrialCount": 3, "parallelTrialCount": 1, "trialJobSpec": { "workerPoolSpecs": [ { "machineSpec": { "machineType": "n1-standard-4" }, "replicaCount": "1", "pythonPackageSpec": { "executorImageUri": "us-docker.pkg.dev/vertex-ai/training/training-tf-cpu.2-1:latest", "packageUris": [ "gs://my-bucket/my-training-application/trainer.tar.bz2" ], "pythonModule": "my-trainer.trainer" } } ] }, "trials": [ { "id": "2", "state": "SUCCEEDED", "parameters": [ { "parameterId": "my_parameter", "value": 0.71426874725564571 } ], "finalMeasurement": { "stepCount": "2", "metrics": [ { "metricId": "my_metric", "value": 0.30007445812225342 } ] }, "startTime": "2020-09-09T23:39:15.549112551Z", "endTime": "2020-09-09T23:47:08Z" }, { "id": "3", "state": "SUCCEEDED", "parameters": [ { "parameterId": "my_parameter", "value": 0.3078893356622992 } ], "finalMeasurement": { "stepCount": "2", "metrics": [ { "metricId": "my_metric", "value": 0.30000102519989014 } ] }, "startTime": "2020-09-09T23:49:22.451699360Z", "endTime": "2020-09-09T23:57:15Z" }, { "id": "1", "state": "SUCCEEDED", "parameters": [ { "parameterId": "my_parameter", "value": 0.500005 } ], "finalMeasurement": { "stepCount": "2", "metrics": [ { "metricId": "my_metric", "value": 0.30005377531051636 } ] }, "startTime": "2020-09-09T23:23:12.283374629Z", "endTime": "2020-09-09T23:36:56Z" } ], "state": "JOB_STATE_SUCCEEDED", "createTime": "2020-09-09T23:22:31.777386Z", "startTime": "2020-09-09T23:22:34Z", "endTime": "2020-09-10T01:31:24.271307Z", "updateTime": "2020-09-10T01:31:24.271307Z" }
Java
Prima di provare questo esempio, segui le istruzioni per la configurazione di Java nel Guida rapida di Vertex AI con librerie client. Per ulteriori informazioni, consulta API Java Vertex AI documentazione di riferimento.
Per eseguire l'autenticazione su Vertex AI, configura Credenziali predefinite dell'applicazione. Per ulteriori informazioni, vedi Configura l'autenticazione per un ambiente di sviluppo locale.
Python
Per scoprire come installare o aggiornare l'SDK Vertex AI per Python, vedi Installare l'SDK Vertex AI per Python. Per ulteriori informazioni, consulta documentazione di riferimento dell'API Python.
Annullamento di un job di ottimizzazione iperparametri
I seguenti esempi di codice mostrano come annullare un'ottimizzazione degli iperparametri un lavoro.
gcloud
Usa il comando gcloud ai hp-tuning-jobs cancel
:
gcloud ai hp-tuning-jobs cancel ID_OR_NAME \
--region=LOCATION
Sostituisci quanto segue:
ID_OR_NAME
: il name o l'ID numerico diHyperparameterTuningJob
. (L'ID è l'ultima parte il nome.Potresti aver visto l'ID o il nome quando hai creato
HyperparameterTuningJob
. Se non conosci l'ID o il nome, puoi eseguiregcloud ai hp-tuning-jobs list
e cerca il token risorsa.LOCATION
: la regione in cuiHyperparameterTuningJob
è stata creata.
REST
Usa il seguente esempio di codice per annullare un job di ottimizzazione degli iperparametri utilizzando
il metodo cancel
del metodo hyperparameterTuningJob
delle risorse.
Prima di utilizzare i dati della richiesta, effettua le seguenti sostituzioni:
-
LOCATION
: la regione in cuiHyperparameterTuningJob
è stata creata. - NAME: il nome del job di ottimizzazione degli iperparametri. Il nome del job utilizza quanto segue
formato
projects/{project}/locations/{location}/hyperparameterTuningJobs/{hyperparameterTuningJob}
.
Metodo HTTP e URL:
POST https://LOCATION-aiplatform.googleapis.com/v1/NAME:cancel
Per inviare la richiesta, espandi una delle seguenti opzioni:
Dovresti ricevere un codice di stato di operazione riuscita (2xx) e una risposta vuota.
Python
Per scoprire come installare o aggiornare l'SDK Vertex AI per Python, vedi Installare l'SDK Vertex AI per Python. Per ulteriori informazioni, consulta documentazione di riferimento dell'API Python.
Eliminazione di un job di ottimizzazione iperparametri
I seguenti esempi di codice mostrano come eliminare un'ottimizzazione degli iperparametri un job utilizzando l'SDK Vertex AI per Python e l'API REST.
REST
Usa il seguente esempio di codice per eliminare un job di ottimizzazione degli iperparametri utilizzando
il metodo delete
del metodo hyperparameterTuningJob
delle risorse.
Prima di utilizzare i dati della richiesta, effettua le seguenti sostituzioni:
- LOCATION: la tua regione.
- NAME: il nome del job di ottimizzazione degli iperparametri. Il nome del job utilizza quanto segue
formato
projects/{project}/LOCATIONs/{LOCATION}/hyperparameterTuningJobs/{hyperparameterTuningJob}
.
Metodo HTTP e URL:
DELETE https://LOCATION-aiplatform.googleapis.com/v1/NAME
Per inviare la richiesta, espandi una delle seguenti opzioni:
Dovresti ricevere un codice di stato di operazione riuscita (2xx) e una risposta vuota.
Python
Per scoprire come installare o aggiornare l'SDK Vertex AI per Python, vedi Installare l'SDK Vertex AI per Python. Per ulteriori informazioni, consulta documentazione di riferimento dell'API Python.
Passaggi successivi
- Scopri di più sui concetti relativi all'iperparametro dell'ottimizzazione.