Questo tutorial introduce gli analisti di dati di BigQuery ML.
BigQuery ML consente agli utenti di creare ed eseguire modelli di machine learning in BigQuery utilizzando query SQL. Questo tutorial introduce l'ottimizzazione degli iperparametri
specificando l'opzione di addestramento num_trials
.
In questo tutorial, utilizza la
tabella di esempio tlc_yellow_trips_2018
per creare un modello che prevede la punta di una corsa in taxi. Noterai un miglioramento delle prestazioni del 40% circa (r2_score) con l'ottimizzazione degli iperparametri.
Obiettivi
In questo tutorial utilizzerai:
- BigQuery ML per creare un modello di regressione lineare utilizzando l'istruzione
CREATE MODEL
connum_trials
impostato su 20. - La funzione
ML.TRIAL_INFO
per controllare la panoramica di tutte le 20 prove - La funzione
ML.EVALUATE
per valutare il modello di machine learning - La funzione
ML.PREDICT
per fare previsioni utilizzando il modello di machine learning
Costi
Questo tutorial utilizza i componenti fatturabili di Google Cloud, tra cui:
- BigQuery
- BigQuery ML
Per ulteriori informazioni sui costi di BigQuery, consulta la pagina dei prezzi di BigQuery.
Prima di iniziare
- Accedi al tuo account Google Cloud. Se non conosci Google Cloud, crea un account per valutare le prestazioni dei nostri prodotti in scenari reali. I nuovi clienti ricevono anche 300 $di crediti gratuiti per l'esecuzione, il test e il deployment dei carichi di lavoro.
-
Nella pagina del selettore dei progetti in Google Cloud Console, seleziona o crea un progetto Google Cloud.
-
Assicurati che la fatturazione sia attivata per il tuo progetto Cloud. Scopri come verificare se la fatturazione è abilitata su un progetto.
-
Nella pagina del selettore dei progetti in Google Cloud Console, seleziona o crea un progetto Google Cloud.
-
Assicurati che la fatturazione sia attivata per il tuo progetto Cloud. Scopri come verificare se la fatturazione è abilitata su un progetto.
- BigQuery viene abilitato automaticamente nei nuovi progetti.
Per attivare BigQuery in un progetto preesistente, vai a
Attiva l'API BigQuery.
Passaggio 1: crea il tuo set di dati di addestramento
Il primo passaggio consiste nel creare un set di dati BigQuery per archiviare i dati di addestramento e il modello ML. Per creare il set di dati:
Nella console Google Cloud, vai alla pagina BigQuery.
Nel pannello di navigazione, nella sezione Risorse, fai clic sul nome del tuo progetto.
Sul lato destro del riquadro dei dettagli, fai clic su Crea set di dati.
Nella pagina Crea set di dati:
- In ID set di dati, inserisci
bqml_tutorial
. In Località dei dati, scegli Stati Uniti (US). Attualmente, i set di dati pubblici sono archiviati nella località multiregionale
US
. Per semplicità, posiziona il set di dati nella stessa posizione.
- In ID set di dati, inserisci
Lascia invariate tutte le altre impostazioni predefinite e fai clic su Crea set di dati.
Passaggio 2: crea la tabella di input per l'addestramento
In questo passaggio, materializzerai la tabella di input per l'addestramento con 100.000 righe.
Visualizza lo schema della tabella di origine
tlc_yellow_trips_2018
.Crea la tabella di dati di input per l'addestramento.
CREATE TABLE `bqml_tutorial.taxi_tip_input` AS
SELECT
* EXCEPT(tip_amount), tip_amount AS label
FROM
`bigquery-public-data.new_york_taxi_trips.tlc_yellow_trips_2018`
WHERE
tip_amount IS NOT NULL
LIMIT 100000
Passaggio 3: crea il modello
Successivamente, crea un modello di regressione lineare con ottimizzazione degli iperparametri utilizzando la tabella di esempio tlc_yellow_trips_2018
in BigQuery. La seguente query SQL standard viene utilizzata per creare il modello con l'ottimizzazione degli iperparametri.
CREATE MODEL `bqml_tutorial.hp_taxi_tip_model`
OPTIONS
(model_type='linear_reg',
num_trials=20,
max_parallel_trials=2) AS
SELECT
*
FROM
`bqml_tutorial.taxi_tip_input`
Dettagli query
Il modello LINEAR_REG
ha due iperparametri regolabili: l1_reg
e l2_reg
.
La query precedente utilizza lo spazio di ricerca predefinito. Puoi anche specificare esplicitamente
lo spazio di ricerca:
OPTIONS
(...
l1_reg=hparam_range(0, 20),
l2_reg=hparam_candidates([0, 0.1, 1, 10]))
Inoltre, anche queste altre opzioni di addestramento per l'ottimizzazione degli iperparametri utilizzano i loro valori predefiniti:
Algoritmo_hparam_tuning:
"VIZIER_DEFAULT"
hparam_tuning_objectives:
["r2_score"]
Il valore max_parallel_trials
è impostato su 2 per accelerare il processo di ottimizzazione. Con 2 prove in esecuzione in qualsiasi momento, l'intera ottimizzazione dovrebbe richiedere all'incirca 10 job di addestramento seriale anziché 20. Tuttavia, tieni presente che le due prove simultanee non possono trarre vantaggio dai risultati di addestramento degli altri team.
Esegui la query CREATE MODEL
Per eseguire la query CREATE MODEL
in modo da creare e addestrare il modello:
Nella console Google Cloud, fai clic sul pulsante Crea nuova query.
Inserisci la query SQL standard precedente nell'area di testo Editor query.
Fai clic su Esegui.
Il completamento della query richiede circa 17 minuti. Puoi monitorare l'avanzamento dell'ottimizzazione nei dettagli di esecuzione in Fasi:
Passaggio 4: ottieni informazioni sulle prove
Per visualizzare una panoramica di tutte le prove, inclusi iperparametri, obiettivi, stato e prova ottimale, puoi utilizzare la funzione ML.TRIAL_INFO
e visualizzare il risultato nella console Google Cloud dopo aver eseguito SQL.
SELECT *
FROM
ML.TRIAL_INFO(MODEL `bqml_tutorial.hp_taxi_tip_model`)
Puoi eseguire questa query SQL non appena termina una prova. Se la correzione viene interrotta a metà, tutte le prove già completate rimarranno disponibili.
Passaggio 5: valuta il modello
Dopo aver creato il modello, puoi ottenere le metriche di valutazione di tutte le prove utilizzando la funzione ML.EVALUATE
o tramite la console Google Cloud.
Esegui ML.EVALUATE
SELECT *
FROM
ML.EVALUATE(MODEL `bqml_tutorial.hp_taxi_tip_model`)
Questo SQL recupera le metriche di valutazione per tutte le prove calcolate dai dati TEST. Controlla la sezione Suddivisione dati per visualizzare la differenza tra gli obiettivi ML.TRIAL_INFO
e le metriche di valutazione ML.EVALUATE
.
Puoi anche valutare una prova specifica fornendo i tuoi dati. Consulta ML.EVALUATE per ulteriori dettagli.
Controllare le metriche di valutazione tramite la console Google Cloud
Puoi anche controllare le metriche di valutazione selezionando la scheda EVALUATION
.
Passaggio 6: utilizza il modello per prevedere i suggerimenti per i taxi
Ora che hai valutato il modello, il passaggio successivo è utilizzarlo per prevedere la mancia del taxi.
La query utilizzata per prevedere il suggerimento è la seguente:
SELECT
*
FROM
ML.PREDICT(MODEL `bqml_tutorial.hp_taxi_tip_model`,
(
SELECT
*
FROM
`bqml_tutorial.taxi_tip_input`
LIMIT 10))
Dettagli query
L'istruzione SELECT
in alto recupera tutte le colonne, inclusa la colonna predicted_label
. Questa colonna è generata dalla funzione ML.PREDICT
.
Quando utilizzi la funzione ML.PREDICT
, il nome della colonna di output per il modello è predicted_label_column_name
.
Per impostazione predefinita, la previsione viene effettuata in base alla prova ottimale. Puoi selezionare un'altra prova specificando il parametro trial_id
.
SELECT
*
FROM
ML.PREDICT(MODEL `bqml_tutorial.hp_taxi_tip_model`,
(
SELECT
*
FROM
`bqml_tutorial.taxi_tip_input`
LIMIT
10),
STRUCT(3 AS trial_id))
Consulta ML.PREDICT per ulteriori dettagli su come utilizzare le funzioni di pubblicazione dei modelli.
Esegui la pulizia
Per evitare che al tuo Account Google Cloud vengano addebitati costi relativi alle risorse utilizzate in questo tutorial, elimina il progetto che contiene le risorse oppure mantieni il progetto ed elimina le singole risorse.
- Puoi eliminare il progetto che hai creato.
- In alternativa, puoi mantenere il progetto ed eliminare il set di dati.
Eliminazione del set di dati
L'eliminazione del progetto comporta la rimozione di tutti i set di dati e di tutte le tabelle nel progetto. Se preferisci riutilizzare il progetto, puoi eliminare il set di dati creato in questo tutorial:
Se necessario, apri la pagina BigQuery nella console Google Cloud.
Nel pannello di navigazione, fai clic sul set di dati bqml_tutorial che hai creato.
Sul lato destro della finestra, fai clic su Elimina set di dati. Questa azione elimina il set di dati, la tabella e tutti i dati.
Nella finestra di dialogo Elimina set di dati, conferma il comando Elimina digitando il nome del set di dati (
bqml_tutorial
), quindi fai clic su Elimina.
Eliminazione del progetto
Per eliminare il progetto:
- In Google Cloud Console, vai alla pagina Gestisci risorse.
- Nell'elenco dei progetti, seleziona il progetto che vuoi eliminare, quindi fai clic su Elimina.
- Nella finestra di dialogo, digita l'ID del progetto e fai clic su Chiudi per eliminare il progetto.
Passaggi successivi
- Per scoprire di più sul machine learning, consulta il corso per gli arresti anomali del machine learning.
- Per una panoramica di BigQuery ML, consulta Introduzione a BigQuery ML.
- Per scoprire di più sulla console Google Cloud, consulta Utilizzo della console Google Cloud.