Questo tutorial introduce gli analisti di dati al modello di fattorizzazione matriciale in BigQuery ML. BigQuery ML consente agli utenti di creare ed eseguire modelli di machine learning in BigQuery. L'obiettivo è democratizzare il machine learning consentendo ai professionisti SQL di creare modelli utilizzando i loro strumenti esistenti e di aumentare la velocità di sviluppo eliminando la necessità di spostare i dati.
In questo tutorial imparerai a creare un modello di fattorizzazione matriciale a partire dal feedback implicito utilizzando la tabella di esempio GA360_test.ga_sessions_sample
per dare suggerimenti in base a un ID visitatore e a un Content ID.
La tabella ga_sessions_sample
contiene informazioni su una porzione di dati di sessione
raccolti da Google Analytics 360 e inviati a BigQuery.
Obiettivi
In questo tutorial, utilizzerai:
- BigQuery ML: per creare un modello di suggerimenti impliciti utilizzando
l'istruzione
CREATE MODEL
. - La funzione
ML.EVALUATE
: per valutare i modelli ML. - Funzione
ML.WEIGHTS
: per ispezionare i pesi dei fattori latenti generati durante l'addestramento. - La funzione
ML.RECOMMEND
: per produrre suggerimenti per un utente.
Costi
Questo tutorial utilizza i componenti fatturabili di Google Cloud, tra cui:
- BigQuery
- BigQuery ML
Per ulteriori informazioni sui costi di BigQuery, consulta la pagina Prezzi di BigQuery.
Per ulteriori informazioni sui costi di BigQuery ML, consulta la pagina relativa ai prezzi di BigQuery ML.
Prima di iniziare
- Accedi al tuo account Google Cloud. Se non conosci Google Cloud, crea un account per valutare le prestazioni dei nostri prodotti in scenari reali. I nuovi clienti ricevono anche 300 $di crediti gratuiti per l'esecuzione, il test e il deployment dei carichi di lavoro.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Assicurati che la fatturazione sia attivata per il tuo progetto Google Cloud.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Assicurati che la fatturazione sia attivata per il tuo progetto Google Cloud.
- BigQuery viene abilitato automaticamente nei nuovi progetti.
Per attivare BigQuery in un progetto preesistente, vai a
Attiva l'API BigQuery.
Passaggio 1: crea il set di dati
Crea un set di dati BigQuery per archiviare il tuo modello ML:
Nella console Google Cloud, vai alla pagina BigQuery.
Nel riquadro Explorer, fai clic sul nome del progetto.
Fai clic su
Visualizza azioni > Crea set di dati.Nella pagina Crea set di dati:
In ID set di dati, inserisci
bqml_tutorial
.Per Tipo di località, seleziona Più regioni e poi Stati Uniti (più regioni negli Stati Uniti).
I set di dati pubblici sono archiviati in
US
più regioni. Per semplicità, memorizza il set di dati nella stessa posizione.Lascia invariate le restanti impostazioni predefinite e fai clic su Crea set di dati.
Passaggio 2: carica i dati di Analytics 360 in BigQuery
La maggior parte delle volte, le valutazioni nei tuoi dati non riflettono un valore impostato esplicitamente da un utente. In questi scenari, possiamo creare un proxy per questi valori come valutazione implicita e utilizzare un algoritmo diverso per calcolare i suggerimenti. In questo esempio, mostreremo un set di dati di esempio di Analytics 360. Questo esempio si basa sul seguente articolo.
Di seguito è riportata una query da eseguire per creare un set di dati con valutazioni implicite in base alla durata della sessione che un visitatore ha avuto su una pagina dal cloud-training-demos.GA360_test.ga_sessions_sample
. L'obiettivo di questa query è creare un set di dati con tre colonne che possiamo mappare a una colonna utente, una colonna di elementi e una colonna di valutazione.
Nella console Google Cloud, fai clic sul pulsante Crea nuova query.
Inserisci la seguente query GoogleSQL nell'area di testo Editor query.
#standardSQL CREATE OR REPLACE TABLE bqml_tutorial.analytics_session_data AS WITH visitor_page_content AS ( SELECT fullVisitorID, ( SELECT MAX( IF (index=10, value, NULL)) FROM UNNEST(hits.customDimensions)) AS latestContentId, (LEAD(hits.time, 1) OVER (PARTITION BY fullVisitorId ORDER BY hits.time ASC) - hits.time) AS session_duration FROM `cloud-training-demos.GA360_test.ga_sessions_sample`, UNNEST(hits) AS hits WHERE # only include hits on pages hits.type = "PAGE" GROUP BY fullVisitorId, latestContentId, hits.time ) # aggregate web stats SELECT fullVisitorID AS visitorId, latestContentId AS contentId, SUM(session_duration) AS session_duration FROM visitor_page_content WHERE latestContentId IS NOT NULL GROUP BY fullVisitorID, latestContentId HAVING session_duration > 0 ORDER BY latestContentId
(Facoltativo) Per impostare il luogo di elaborazione, fai clic su Altro > Impostazioni query. Per Località di elaborazione, scegli
US
. Questo passaggio è facoltativo perché la località di elaborazione viene rilevata automaticamente in base alla località del set di dati.Fai clic su Esegui.
Al termine della query, nel pannello di navigazione verrà visualizzato (
bqml_tutorial.analytics_session_data
). Poiché la query utilizza un'istruzioneCREATE TABLE
per creare una tabella, non vedi i risultati della query.Se dai un'occhiata alla tabella prodotta, dovrebbe avere un aspetto simile al seguente:
Tieni presente che questo risultato è specifico per il modo in cui i dati sono stati esportati in BigQuery. La query per estrarre i tuoi dati potrebbe essere diversa.
Passaggio tre: crea il modello di suggerimenti impliciti
Successivamente, creerai un modello di suggerimenti impliciti utilizzando la tabella di Google Analytics caricata nel passaggio precedente. La seguente query GoogleSQL viene utilizzata per creare il modello che verrà utilizzato per prevedere una valutazione di affidabilità per ogni coppia visitorId
contentId
. Viene creata una valutazione centrando e scalando la durata mediana della sessione e filtrando i record in cui la durata della sessione è superiore a 3, 33 volte la mediana come valori anomali.
#standardSQL CREATE OR REPLACE MODEL `bqml_tutorial.my_implicit_mf_model` OPTIONS (model_type='matrix_factorization', feedback_type='implicit', user_col='visitorId', item_col='contentId', rating_col='rating', l2_reg=30, num_factors=15) AS SELECT visitorId, contentId, 0.3 * (1 + (session_duration - 57937) / 57937) AS rating FROM `bqml_tutorial.analytics_session_data` WHERE 0.3 * (1 + (session_duration - 57937) / 57937) < 1
Dettagli query
La clausola CREATE MODEL
viene utilizzata per creare e addestrare il modello denominato bqml_tutorial.my_implicit_mf_model
.
La clausola OPTIONS(model_type='matrix_factorization', feedback_type='IMPLICIT',
user_col='visitorId', ...)
indica che stai creando un modello di scomposizione matriciale. Poiché è specificato feedback_type='IMPLICIT'
, verrà addestrato un modello di fattorizzazione matriciale implicita.
Un esempio di come creare un modello di fattorizzazione matriciale esplicito è spiegato nella sezione Creazione di un modello di fattorizzazione matriciale esplicito.
L'istruzione SELECT
di questa query utilizza le seguenti colonne per generare suggerimenti.
visitorId
: l'ID visitatore (INT64).contentId
: ID contenuti (INT64).rating
: la valutazione implicita da 0 a 1 calcolata pervisitorId
e i rispettivicontentId
centrati e ridimensionati (FLOAT64).
La clausola FROM
bqml_tutorial.analytics_session_data
indica che stai eseguendo una query sulla tabella analytics_session_data
nel
set di dati bqml_tutorial
. Questo set di dati si trova nel progetto BigQuery se sono state seguite le istruzioni dei passaggi 2 e 8.
Esegui la query CREATE MODEL
Per eseguire la query CREATE MODEL
al fine di creare e addestrare il modello:
Nella console Google Cloud, fai clic sul pulsante Crea nuova query.
Inserisci la seguente query GoogleSQL nell'area di testo Editor query.
#standardSQL CREATE OR REPLACE MODEL `bqml_tutorial.my_implicit_mf_model` OPTIONS (model_type='matrix_factorization', feedback_type='implicit', user_col='visitorId', item_col='contentId', rating_col='rating', l2_reg=30, num_factors=15) AS SELECT visitorId, contentId, 0.3 * (1 + (session_duration - 57937) / 57937) AS rating FROM `bqml_tutorial.analytics_session_data`
Fai clic su Esegui.
Il completamento della query richiede circa 12 minuti. Trascorso questo periodo, il modello (
my_implicit_mf_model
) viene visualizzato nel pannello di navigazione. Poiché la query utilizza un'istruzioneCREATE MODEL
per creare un modello, non vedi i risultati della query.
Passaggio 4 (facoltativo): ricevi le statistiche di addestramento
Per visualizzare i risultati dell'addestramento del modello, puoi utilizzare la funzione ML.TRAINING_INFO
oppure visualizzare le statistiche nella console Google Cloud. In questo tutorial utilizzerai la console Google Cloud.
Un algoritmo di machine learning crea un modello esaminando molti esempi e provando a trovare un modello che riduca al minimo la perdita. Questo processo è chiamato minimizzazione del rischio empirico.
Per visualizzare le statistiche di addestramento del modello generate quando hai eseguito la query CREATE MODEL
:
Nel pannello di navigazione della console Google Cloud, nella sezione Risorse, espandi [PROJECT_ID] > bqml_tutorial, quindi fai clic su my_implicit_mf_model.
Fai clic sulla scheda Addestramento, quindi su Tabella. I risultati dovrebbero avere il seguente aspetto:
La colonna Addestramento Data Loss rappresenta la metrica di perdita calcolata dopo che il modello è stato addestrato sul set di dati di addestramento. Poiché hai eseguito la fattorizzazione matriciale, questa colonna è l'errore quadratico medio. Per impostazione predefinita, i modelli di fattorizzazione matriciale non suddividono i dati, quindi la colonna Valutazione perdita dati non sarà presente a meno che non venga specificato un set di dati di holdout, perché la suddivisione dei dati può comportare la perdita di tutte le valutazioni per un utente o un articolo. Di conseguenza, il modello non avrà informazioni sui fattori latenti sugli utenti o sugli elementi mancanti.
Per ulteriori dettagli sulla funzione
ML.TRAINING_INFO
, consulta il riferimento sulla sintassi di BigQuery ML.
Passaggio 5: valuta il modello
Dopo aver creato il modello, valuti le prestazioni del motore per suggerimenti utilizzando la funzione ML.EVALUATE
. La funzione ML.EVALUATE
valuta le valutazioni previste
in base alle valutazioni effettive.
La query utilizzata per valutare il modello è la seguente:
#standardSQL SELECT * FROM ML.EVALUATE(MODEL `bqml_tutorial.my_implicit_mf_model`)
Dettagli query
L'istruzione SELECT
più in alto recupera le colonne dal modello.
La clausola FROM
utilizza la funzione ML.EVALUATE
nel tuo modello: bqml_tutorial.my_implicit_mf_model
.
Esegui la query ML.EVALUATE
Per eseguire la query ML.EVALUATE
che valuta il modello:
Nella console Google Cloud, fai clic sul pulsante Crea nuova query.
Inserisci la seguente query GoogleSQL nell'area di testo Editor query.
#standardSQL SELECT * FROM ML.EVALUATE(MODEL `bqml_tutorial.my_implicit_mf_model`)
(Facoltativo) Per impostare il luogo di elaborazione, fai clic su Altro > Impostazioni query. Per Località di elaborazione, scegli
US
. Questo passaggio è facoltativo perché la località di elaborazione viene rilevata automaticamente in base alla località del set di dati.Fai clic su Esegui.
Quando la query è completa, fai clic sulla scheda Risultati sotto l'area di testo della query. I risultati dovrebbero avere il seguente aspetto:
Poiché hai eseguito una fattorizzazione matriciale implicita, i risultati includono le seguenti colonne:
mean_average_precision
mean_squared_error
normalized_discounted_cumulative_gain
average_rank
mean_average_precision
,normalized_discounted_cumulative_gain
eaverage_rank
sono metriche di ranking spiegate qui: Metriche di fattorizzazione matriciale implicita
Passaggio 6: prevedi le valutazioni e fornisci consigli
Utilizza il modello per prevedere le valutazioni e dare consigli
Trova tutte le confidenza della valutazione di contentId
per un insieme di visitorIds
ML.RECOMMEND
non deve accettare argomenti aggiuntivi oltre al modello,
ma può includere una tabella facoltativa. Se la tabella di input ha una sola colonna che corrisponde al nome della colonna di input user
o di input item
, verranno visualizzate tutte le valutazioni degli elementi previste per ogni user
e viceversa. Tieni presente che se tutti gli elementi users
o items
sono nella tabella di input, produrrà gli stessi risultati del passaggio di nessun argomento facoltativo a ML.RECOMMEND
.
Di seguito è riportato un esempio di query per recuperare tutte le affidabilità delle valutazioni previste per 5 visitatori.
#standardSQL SELECT * FROM ML.RECOMMEND(MODEL `bqml_tutorial.my_implicit_mf_model`, ( SELECT visitorId FROM `bqml_tutorial.analytics_session_data` LIMIT 5))
Dettagli query
L'istruzione SELECT
più in alto recupera le colonne visitorId
, contentId
e predicted_rating_confidence
. Quest'ultima colonna viene generata dalla funzione ML.RECOMMEND
. Quando utilizzi la funzione ML.RECOMMEND
, il nome della colonna di output
per i modelli di fattorizzazione matriciale implicita è
predicted_rating-column-name_confidence
. Per i modelli di fattorizzazione matriciale implicita, predicted_rating_confidence
è l'affidabilità stimata per la coppia user
/item
. Questo valore di confidenza è compreso approssimativamente tra 0 e 1, dove l'affidabilità più alta indica che user
preferisce item
più rispetto a item
con un valore di affidabilità più basso.
La funzione ML.RECOMMEND
viene utilizzata per prevedere le valutazioni utilizzando il tuo modello: bqml_tutorial.my_implicit_mf_model
.
L'istruzione SELECT
nidificata di questa query seleziona solo la colonna visitorId
dalla tabella originale utilizzata per l'addestramento.
La clausola LIMIT
LIMIT 5
filtra in modo casuale 5 visitorId
da inviare a ML.RECOMMEND
.
Trovare le valutazioni per tutte le coppie ID contenuto ID visitatore
Ora che hai valutato il modello, il passaggio successivo consiste nell'utilizzarlo per ottenere un'affidabilità della valutazione. Puoi utilizzare il modello per prevedere le affidabilità di ogni combinazione di elementi utente nella seguente query:
#standardSQL SELECT * FROM ML.RECOMMEND(MODEL `bqml_tutorial.my_implicit_mf_model`)
Dettagli query
L'istruzione SELECT
più in alto recupera le colonne visitorId
, contentId
e predicted_rating_confidence
. Quest'ultima colonna viene generata dalla funzione ML.RECOMMEND
. Quando utilizzi la funzione ML.RECOMMEND
, il nome della colonna di output
per i modelli di fattorizzazione matriciale implicita è
predicted_rating-column-name_confidence
. Per i modelli di fattorizzazione matriciale implicita, predicted_rating_confidence
è l'affidabilità stimata per la coppia user
/item
. Questo valore di affidabilità è compreso approssimativamente tra 0 e 1, dove la affidabilità maggiore indica che user
preferisce item
più rispetto a item
con un valore di affidabilità più basso.
La funzione ML.RECOMMEND
viene utilizzata per prevedere le valutazioni utilizzando il tuo modello: bqml_tutorial.my_implicit_mf_model
.
Un modo per salvare il risultato nella tabella è:
#standardSQL CREATE OR REPLACE TABLE `bqml_tutorial.recommend_content` OPTIONS() AS SELECT * FROM ML.RECOMMEND(MODEL `bqml_tutorial.my_implicit_mf_model`)
Se si verifica un errore Query Exceeded Resource Limits
per ML.RECOMMEND
, riprova con un livello di fatturazione superiore. Nello strumento a riga di comando di BigQuery, questo può essere impostato utilizzando
--maximum_billing_tier
.
Genera suggerimenti
La seguente query utilizza ML.RECOMMEND
per generare i primi 5 contentId
consigliati per visitorId
.
#standardSQL SELECT visitorId, ARRAY_AGG(STRUCT(contentId, predicted_rating_confidence) ORDER BY predicted_rating_confidence DESC LIMIT 5) AS rec FROM `bqml_tutorial.recommend_content` GROUP BY visitorId
Dettagli query
L'istruzione SELECT
aggrega i risultati della query ML.RECOMMEND
utilizzando GROUP BY visitorId
per aggregare contentId
e predicted_rating_confidence
in ordine decrescente, mantenendo solo i primi 5 ID contenuti.
Utilizzando la precedente query sui suggerimenti, possiamo ordinare i dati in base alla valutazione prevista e restituire gli elementi previsti principali per ciascun utente. La seguente query unisce item_ids
con il movie_ids
trovato nella tabella movielens.movie_titles
caricata in precedenza e restituisce i primi 5 film consigliati per utente.
Esegui la query ML.RECOMMEND
Per eseguire la query ML.RECOMMEND
che restituisce i primi 5 ID contenuti consigliati per ID visitatore:
Nella console Google Cloud, fai clic sul pulsante Crea nuova query.
Inserisci la seguente query GoogleSQL nell'area di testo Editor query.
#standardSQL CREATE OR REPLACE TABLE `bqml_tutorial.recommend_content` OPTIONS() AS SELECT * FROM ML.RECOMMEND(MODEL `bqml_tutorial.my_implicit_mf_model`)
Fai clic su Esegui.
Al termine della query, (
bqml_tutorial.recommend_content
) viene visualizzato nel pannello di navigazione della console Google Cloud. Poiché la query utilizza un'istruzioneCREATE TABLE
per creare una tabella, non vedi i risultati della query.Crea un'altra nuova query. Inserisci la seguente query GoogleSQL nell'area di testo Editor query una volta terminata l'esecuzione della query precedente.
#standardSQL SELECT visitorId, ARRAY_AGG(STRUCT(contentId, predicted_rating_confidence) ORDER BY predicted_rating_confidence DESC LIMIT 5) AS rec FROM `bqml_tutorial.recommend_content` GROUP BY visitorId
(Facoltativo) Per impostare il luogo di elaborazione, fai clic su Altro > Impostazioni query. Per Località di elaborazione, scegli
US
. Questo passaggio è facoltativo perché la località di elaborazione viene rilevata automaticamente in base alla località del set di dati.Fai clic su Esegui.
Quando la query è completa, fai clic sulla scheda Risultati sotto l'area di testo della query. I risultati dovrebbero avere il seguente aspetto:
Esegui la pulizia
Per evitare che al tuo Account Google Cloud vengano addebitati costi relativi alle risorse utilizzate in questo tutorial, elimina il progetto che contiene le risorse oppure mantieni il progetto ed elimina le singole risorse.
- Puoi eliminare il progetto che hai creato.
- In alternativa, puoi mantenere il progetto ed eliminare il set di dati.
Elimina il set di dati
L'eliminazione del progetto rimuove tutti i set di dati e tutte le tabelle nel progetto. Se preferisci riutilizzare il progetto, puoi eliminare il set di dati che hai creato in questo tutorial:
Se necessario, apri la pagina BigQuery nella console Google Cloud.
Nella barra di navigazione, fai clic sul set di dati bqml_tutorial che hai creato.
Fai clic su Elimina set di dati sul lato destro della finestra. Questa azione elimina il set di dati, la tabella e tutti i dati.
Nella finestra di dialogo Elimina set di dati, conferma il comando di eliminazione digitando il nome del set di dati (
bqml_tutorial
), quindi fai clic su Elimina.
Elimina il progetto
Per eliminare il progetto:
- Nella console Google Cloud, vai alla pagina Gestisci risorse.
- Nell'elenco dei progetti, seleziona il progetto che vuoi eliminare, quindi fai clic su Elimina.
- Nella finestra di dialogo, digita l'ID del progetto e fai clic su Chiudi per eliminare il progetto.
Passaggi successivi
- Per saperne di più sul machine learning, consulta il corso intensivo sul machine learning.
- Per una panoramica di BigQuery ML, consulta Introduzione a BigQuery ML.
- Per saperne di più sulla console Google Cloud, consulta Utilizzo della console Google Cloud.