Migliora le prestazioni del modello con l'ottimizzazione degli iperparametri


Questo tutorial mostra come utilizzare ottimizzazione degli iperparametri BigQuery ML specificando l'opzione di addestramento NUM_TRIALS per abilitare un insieme di prove di addestramento del modello.

In questo tutorial utilizzi Tabella di esempio tlc_yellow_trips_2018 per creare un modello che preveda la mancia di una corsa in taxi. Con l'ottimizzazione degli iperparametri, il modello mostra un miglioramento delle prestazioni di circa il 40% nell'R2_SCOREobiettivo di ottimizzazione degli iperparametri.

Obiettivi

In questo tutorial utilizzi:

  • BigQuery ML per creare un modello di regressione lineare utilizzando l'istruzione CREATE MODEL con NUM_TRIALS impostato su 20.
  • La funzione ML.TRIAL_INFO per controllare la panoramica di tutte e 20 le prove
  • La funzione ML.EVALUATE per valutare il modello ML
  • La funzione ML.PREDICT per fare previsioni utilizzando il modello ML

Costi

Questo tutorial utilizza componenti fatturabili di Google Cloud, tra cui:

  • BigQuery
  • BigQuery ML

Per ulteriori informazioni sui costi di BigQuery, consulta la pagina Prezzi di BigQuery.

Prima di iniziare

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  3. Make sure that billing is enabled for your Google Cloud project.

  4. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  5. Make sure that billing is enabled for your Google Cloud project.

  6. BigQuery viene attivato automaticamente nei nuovi progetti. Per attivare BigQuery in un progetto preesistente, vai a

    Enable the BigQuery API.

    Enable the API

Passaggio 1: crea il set di dati di addestramento

Crea un set di dati BigQuery per archiviare il tuo modello ML:

  1. Nella console Google Cloud, vai alla pagina BigQuery.

    Vai alla pagina di BigQuery

  2. Nel riquadro Explorer, fai clic sul nome del tuo progetto.

  3. Fai clic su Visualizza azioni > Crea il set di dati.

    Crea il set di dati.

  4. Nella pagina Crea set di dati, segui questi passaggi:

    • In ID set di dati, inserisci bqml_tutorial.

    • Per Tipo di località, seleziona Più regioni e poi Stati Uniti (più regioni negli Stati Uniti).

      I set di dati pubblici vengono archiviati nell'US più regioni. Per semplicità, per archiviare il set di dati nella stessa posizione.

    • Lascia invariate le restanti impostazioni predefinite e fai clic su Crea il set di dati.

      Pagina Crea set di dati.

Passaggio 2: crea la tabella di input per l'addestramento

In questo passaggio, materializzi la tabella di input di addestramento con 100.000 righe.

  1. Visualizza lo schema della tabella di origine tlc_yellow_trips_2018.

    Schema della tabella.

  2. Crea la tabella dei dati di input per l'addestramento.

CREATE TABLE `bqml_tutorial.taxi_tip_input` AS
SELECT
  * EXCEPT(tip_amount), tip_amount AS label
FROM
  `bigquery-public-data.new_york_taxi_trips.tlc_yellow_trips_2018`
WHERE
  tip_amount IS NOT NULL
LIMIT 100000

Passaggio 3: crea il modello

Quindi, crea un modello di regressione lineare con l'ottimizzazione degli iperparametri utilizzando Tabella di esempio tlc_yellow_trips_2018 in BigQuery. Le seguenti La query GoogleSQL viene utilizzata per creare il modello con l'ottimizzazione degli iperparametri.

CREATE MODEL `bqml_tutorial.hp_taxi_tip_model`
OPTIONS
  (MODEL_TYPE='LINEAR_REG',
   NUM_TRIALS=20,
   MAX_PARALLEL_TRIALS=2) AS
SELECT
  *
FROM
  `bqml_tutorial.taxi_tip_input`

Dettagli query

Il modello LINEAR_REG ha due iperparametri ottimizzabili: l1_reg e l2_reg. La query riportata sopra utilizza lo spazio di ricerca predefinito. Puoi anche specificare esplicitamente lo spazio di ricerca:

OPTIONS
  (...
    L1_REG=HPARAM_RANGE(0, 20),
    L2_REG=HPARAM_CANDIDATES([0, 0.1, 1, 10]))

Inoltre, queste altre opzioni di addestramento per l'ottimizzazione degli iperparametri utilizzano anche i relativi valori predefiniti:

  • HPARAM_TUNING_ALGORITHM: "VIZIER_DEFAULT"
  • HPARAM_TUNING_OBJECTIVES: ["r2_score"]

MAX_PARALLEL_TRIALS è impostato su 2 per accelerare la procedura di ottimizzazione. Con 2 prove in esecuzione in qualsiasi momento, l'intera ottimizzazione dovrebbe richiedere all'incirca lo stesso tempo di 10 job di addestramento sequenziali anziché 20. Tieni presente, tuttavia, che le due prove simultanee non possono traggono vantaggio dai reciproci risultati di addestramento.

Esegui la query CREATE MODEL

Per eseguire la query CREATE MODEL in modo da creare e addestrare il modello:

  1. Nella console Google Cloud, fai clic sul pulsante Crea nuova query.

  2. Inserisci la query GoogleSQL precedente nell'area di testo Editor query.

  3. Fai clic su Esegui.

    La query richiede circa 17 minuti. Puoi monitorare l'ottimizzazione avanzamento dei dettagli dell'esecuzione in Fasi:

    Avanzamento dell'ottimizzazione.

Passaggio 4: recupera informazioni sulle prove

Per una panoramica di tutti gli studi, inclusi iperparametri, obiettivi e la prova ottimale, puoi utilizzare ML.TRIAL_INFO e potrai visualizzare il risultato nella console Google Cloud dopo aver eseguito l'SQL.

SELECT *
FROM
  ML.TRIAL_INFO(MODEL `bqml_tutorial.hp_taxi_tip_model`)

Puoi eseguire questa query SQL non appena è stata completata una prova. Se l'ottimizzazione viene interrotta al centro, tutte le prove già completate rimarranno disponibili per l'uso.

Passaggio 5: valuta il modello

Dopo aver creato il modello, puoi ottenere le metriche di valutazione di tutte le prove utilizzando ML.EVALUATE o tramite la console Google Cloud.

Esegui ML.EVALUATE

SELECT *
FROM
  ML.EVALUATE(MODEL `bqml_tutorial.hp_taxi_tip_model`)

Questo SQL recupera le metriche di valutazione per tutte le prove calcolate dal report e i dati di Google Cloud. Per ulteriori informazioni sulla differenza tra ML.TRIAL_INFO e ML.EVALUATE metriche di valutazione, consulta Funzioni di gestione del modello.

Puoi anche valutare una prova specifica fornendo i tuoi dati. Per maggiori informazioni le informazioni, vedi Funzioni di pubblicazione del modello.

Controlla le metriche di valutazione tramite la console Google Cloud

Puoi anche controllare le metriche di valutazione selezionando la scheda EVALUATION.

Valutazione del tuning.

Passaggio 6: usa il tuo modello per prevedere le mance per i taxi

Ora che hai valutato il modello, il passaggio successivo consiste nell'utilizzarlo per predire la mancia del taxi.

La query utilizzata per prevedere la mancia è la seguente:

SELECT
  *
FROM
  ML.PREDICT(MODEL `bqml_tutorial.hp_taxi_tip_model`,
    (
    SELECT
      *
    FROM
      `bqml_tutorial.taxi_tip_input`
    LIMIT 10))

Dettagli query

L'istruzione SELECT più in alto recupera tutte le colonne, incluso il predicted_label. Questa colonna viene generata dalla funzione ML.PREDICT. Quando utilizzi la funzione ML.PREDICT, il nome della colonna di output per il modello è predicted_label_column_name.

Per impostazione predefinita, la previsione viene effettuata sulla base della prova ottimale. Puoi selezionare un'altra prova specificando il parametro trial_id.

SELECT
  *
FROM
  ML.PREDICT(MODEL `bqml_tutorial.hp_taxi_tip_model`,
    (
    SELECT
      *
    FROM
      `bqml_tutorial.taxi_tip_input`
    LIMIT
      10),
    STRUCT(3 AS trial_id))

Per ulteriori dettagli su come utilizzare le funzioni di pubblicazione del modello, consulta Funzioni di pubblicazione del modello.

Esegui la pulizia

Per evitare che al tuo account Google Cloud vengano addebitati costi relativi alle risorse utilizzate in questo tutorial, elimina il progetto che contiene le risorse oppure mantieni il progetto ed elimina le singole risorse.

  • Puoi eliminare il progetto che hai creato.
  • In alternativa, puoi mantenere il progetto ed eliminare il set di dati.

Eliminare il set di dati

L'eliminazione del progetto rimuove tutti i set di dati e tutte le tabelle nel progetto. Se preferisci riutilizzare il progetto, puoi eliminare il set di dati creato in questo tutorial:

  1. Se necessario, apri la pagina BigQuery nella console Google Cloud.

    Vai alla pagina di BigQuery

  2. Nel pannello di navigazione, fai clic sul set di dati bqml_tutorial che hai creato.

  3. Sul lato destro della finestra, fai clic su Elimina set di dati. Questa azione il set di dati, la tabella e tutti i dati.

  4. Nella finestra di dialogo Elimina set di dati, conferma il comando di eliminazione digitando il nome del set di dati (bqml_tutorial) e fai clic su Elimina.

Elimina il progetto

Per eliminare il progetto:

  1. In the Google Cloud console, go to the Manage resources page.

    Go to Manage resources

  2. In the project list, select the project that you want to delete, and then click Delete.
  3. In the dialog, type the project ID, and then click Shut down to delete the project.

Passaggi successivi