Utilizzo dell'ottimizzazione degli iperparametri BigQuery ML per migliorare le prestazioni del modello

Mantieni tutto organizzato con le raccolte Salva e classifica i contenuti in base alle tue preferenze.

Questo tutorial introduce gli analisti di dati di BigQuery ML. BigQuery ML consente agli utenti di creare ed eseguire modelli di machine learning in BigQuery utilizzando query SQL. Questo tutorial introduce l'ottimizzazione degli iperparametri specificando l'opzione di addestramento num_trials.

In questo tutorial, utilizza la tabella di esempio tlc_yellow_trips_2018 per creare un modello che prevede la punta di una corsa in taxi. Noterai un miglioramento delle prestazioni del 40% circa (r2_score) con l'ottimizzazione degli iperparametri.

Obiettivi

In questo tutorial utilizzerai:

  • BigQuery ML per creare un modello di regressione lineare utilizzando l'istruzione CREATE MODEL con num_trials impostato su 20.
  • La funzione ML.TRIAL_INFO per controllare la panoramica di tutte le 20 prove
  • La funzione ML.EVALUATE per valutare il modello di machine learning
  • La funzione ML.PREDICT per fare previsioni utilizzando il modello di machine learning

Costi

Questo tutorial utilizza i componenti fatturabili di Google Cloud, tra cui:

  • BigQuery
  • BigQuery ML

Per ulteriori informazioni sui costi di BigQuery, consulta la pagina dei prezzi di BigQuery.

Prima di iniziare

  1. Accedi al tuo account Google Cloud. Se non conosci Google Cloud, crea un account per valutare le prestazioni dei nostri prodotti in scenari reali. I nuovi clienti ricevono anche 300 $di crediti gratuiti per l'esecuzione, il test e il deployment dei carichi di lavoro.
  2. Nella pagina del selettore dei progetti in Google Cloud Console, seleziona o crea un progetto Google Cloud.

    Vai al selettore progetti

  3. Assicurati che la fatturazione sia attivata per il tuo progetto Cloud. Scopri come verificare se la fatturazione è abilitata su un progetto.

  4. Nella pagina del selettore dei progetti in Google Cloud Console, seleziona o crea un progetto Google Cloud.

    Vai al selettore progetti

  5. Assicurati che la fatturazione sia attivata per il tuo progetto Cloud. Scopri come verificare se la fatturazione è abilitata su un progetto.

  6. BigQuery viene abilitato automaticamente nei nuovi progetti. Per attivare BigQuery in un progetto preesistente, vai a

    Attiva l'API BigQuery.

    Abilita l'API

Passaggio 1: crea il tuo set di dati di addestramento

Il primo passaggio consiste nel creare un set di dati BigQuery per archiviare i dati di addestramento e il modello ML. Per creare il set di dati:

  1. Nella console Google Cloud, vai alla pagina BigQuery.

    Vai alla pagina BigQuery

  2. Nel pannello di navigazione, nella sezione Risorse, fai clic sul nome del tuo progetto.

  3. Sul lato destro del riquadro dei dettagli, fai clic su Crea set di dati.

    Crea set di dati.

  4. Nella pagina Crea set di dati:

    • In ID set di dati, inserisci bqml_tutorial.
    • In Località dei dati, scegli Stati Uniti (US). Attualmente, i set di dati pubblici sono archiviati nella località multiregionale US. Per semplicità, posiziona il set di dati nella stessa posizione.

      Crea la pagina del set di dati.

  5. Lascia invariate tutte le altre impostazioni predefinite e fai clic su Crea set di dati.

Passaggio 2: crea la tabella di input per l'addestramento

In questo passaggio, materializzerai la tabella di input per l'addestramento con 100.000 righe.

  1. Visualizza lo schema della tabella di origine tlc_yellow_trips_2018.

    Schema della tabella.

  2. Crea la tabella di dati di input per l'addestramento.

CREATE TABLE `bqml_tutorial.taxi_tip_input` AS
SELECT
  * EXCEPT(tip_amount), tip_amount AS label
FROM
  `bigquery-public-data.new_york_taxi_trips.tlc_yellow_trips_2018`
WHERE
  tip_amount IS NOT NULL
LIMIT 100000

Passaggio 3: crea il modello

Successivamente, crea un modello di regressione lineare con ottimizzazione degli iperparametri utilizzando la tabella di esempio tlc_yellow_trips_2018 in BigQuery. La seguente query SQL standard viene utilizzata per creare il modello con l'ottimizzazione degli iperparametri.

CREATE MODEL `bqml_tutorial.hp_taxi_tip_model`
OPTIONS
  (model_type='linear_reg',
   num_trials=20,
   max_parallel_trials=2) AS
SELECT
  *
FROM
  `bqml_tutorial.taxi_tip_input`

Dettagli query

Il modello LINEAR_REG ha due iperparametri regolabili: l1_reg e l2_reg. La query precedente utilizza lo spazio di ricerca predefinito. Puoi anche specificare esplicitamente lo spazio di ricerca:

OPTIONS
  (...
    l1_reg=hparam_range(0, 20),
    l2_reg=hparam_candidates([0, 0.1, 1, 10]))

Inoltre, anche queste altre opzioni di addestramento per l'ottimizzazione degli iperparametri utilizzano i loro valori predefiniti:

  • Algoritmo_hparam_tuning:"VIZIER_DEFAULT"

  • hparam_tuning_objectives:["r2_score"]

Il valore max_parallel_trials è impostato su 2 per accelerare il processo di ottimizzazione. Con 2 prove in esecuzione in qualsiasi momento, l'intera ottimizzazione dovrebbe richiedere all'incirca 10 job di addestramento seriale anziché 20. Tuttavia, tieni presente che le due prove simultanee non possono trarre vantaggio dai risultati di addestramento degli altri team.

Esegui la query CREATE MODEL

Per eseguire la query CREATE MODEL in modo da creare e addestrare il modello:

  1. Nella console Google Cloud, fai clic sul pulsante Crea nuova query.

  2. Inserisci la query SQL standard precedente nell'area di testo Editor query.

  3. Fai clic su Esegui.

    Il completamento della query richiede circa 17 minuti. Puoi monitorare l'avanzamento dell'ottimizzazione nei dettagli di esecuzione in Fasi:

    Perfezionamento in corso.

Passaggio 4: ottieni informazioni sulle prove

Per visualizzare una panoramica di tutte le prove, inclusi iperparametri, obiettivi, stato e prova ottimale, puoi utilizzare la funzione ML.TRIAL_INFO e visualizzare il risultato nella console Google Cloud dopo aver eseguito SQL.

SELECT *
FROM
  ML.TRIAL_INFO(MODEL `bqml_tutorial.hp_taxi_tip_model`)

Puoi eseguire questa query SQL non appena termina una prova. Se la correzione viene interrotta a metà, tutte le prove già completate rimarranno disponibili.

Passaggio 5: valuta il modello

Dopo aver creato il modello, puoi ottenere le metriche di valutazione di tutte le prove utilizzando la funzione ML.EVALUATE o tramite la console Google Cloud.

Esegui ML.EVALUATE

SELECT *
FROM
  ML.EVALUATE(MODEL `bqml_tutorial.hp_taxi_tip_model`)

Questo SQL recupera le metriche di valutazione per tutte le prove calcolate dai dati TEST. Controlla la sezione Suddivisione dati per visualizzare la differenza tra gli obiettivi ML.TRIAL_INFO e le metriche di valutazione ML.EVALUATE.

Puoi anche valutare una prova specifica fornendo i tuoi dati. Consulta ML.EVALUATE per ulteriori dettagli.

Controllare le metriche di valutazione tramite la console Google Cloud

Puoi anche controllare le metriche di valutazione selezionando la scheda EVALUATION.

Valutazione ottimizzazione.

Passaggio 6: utilizza il modello per prevedere i suggerimenti per i taxi

Ora che hai valutato il modello, il passaggio successivo è utilizzarlo per prevedere la mancia del taxi.

La query utilizzata per prevedere il suggerimento è la seguente:

SELECT
  *
FROM
  ML.PREDICT(MODEL `bqml_tutorial.hp_taxi_tip_model`,
    (
    SELECT
      *
    FROM
      `bqml_tutorial.taxi_tip_input`
    LIMIT 10))

Dettagli query

L'istruzione SELECT in alto recupera tutte le colonne, inclusa la colonna predicted_label. Questa colonna è generata dalla funzione ML.PREDICT. Quando utilizzi la funzione ML.PREDICT, il nome della colonna di output per il modello è predicted_label_column_name.

Per impostazione predefinita, la previsione viene effettuata in base alla prova ottimale. Puoi selezionare un'altra prova specificando il parametro trial_id.

SELECT
  *
FROM
  ML.PREDICT(MODEL `bqml_tutorial.hp_taxi_tip_model`,
    (
    SELECT
      *
    FROM
      `bqml_tutorial.taxi_tip_input`
    LIMIT
      10),
    STRUCT(3 AS trial_id))

Consulta ML.PREDICT per ulteriori dettagli su come utilizzare le funzioni di pubblicazione dei modelli.

Esegui la pulizia

Per evitare che al tuo Account Google Cloud vengano addebitati costi relativi alle risorse utilizzate in questo tutorial, elimina il progetto che contiene le risorse oppure mantieni il progetto ed elimina le singole risorse.

  • Puoi eliminare il progetto che hai creato.
  • In alternativa, puoi mantenere il progetto ed eliminare il set di dati.

Eliminazione del set di dati

L'eliminazione del progetto comporta la rimozione di tutti i set di dati e di tutte le tabelle nel progetto. Se preferisci riutilizzare il progetto, puoi eliminare il set di dati creato in questo tutorial:

  1. Se necessario, apri la pagina BigQuery nella console Google Cloud.

    Vai alla pagina BigQuery

  2. Nel pannello di navigazione, fai clic sul set di dati bqml_tutorial che hai creato.

  3. Sul lato destro della finestra, fai clic su Elimina set di dati. Questa azione elimina il set di dati, la tabella e tutti i dati.

  4. Nella finestra di dialogo Elimina set di dati, conferma il comando Elimina digitando il nome del set di dati (bqml_tutorial), quindi fai clic su Elimina.

Eliminazione del progetto

Per eliminare il progetto:

  1. In Google Cloud Console, vai alla pagina Gestisci risorse.

    Vai a Gestisci risorse

  2. Nell'elenco dei progetti, seleziona il progetto che vuoi eliminare, quindi fai clic su Elimina.
  3. Nella finestra di dialogo, digita l'ID del progetto e fai clic su Chiudi per eliminare il progetto.

Passaggi successivi