Utilizzare BigQuery ML per generare consigli dai dati di Google Analytics

Questo tutorial introduce gli analisti di dati al modello di fattorizzazione matriciale in BigQuery ML. BigQuery ML consente agli utenti di creare ed eseguire modelli di machine learning in BigQuery utilizzando query SQL. L'obiettivo è democratizzare il machine learning consentendo a chi utilizza SQL di creare modelli con i propri strumenti esistenti e aumentare la velocità di sviluppo attraverso l'eliminazione della necessità di spostare i dati.

In questo tutorial imparerai a creare un modello di fattorizzazione matriciale feedback implicito utilizzando Tabella di esempio GA360_test.ga_sessions_sample per fornire consigli in base a un ID visitatore e un ID contenuti.

La tabella ga_sessions_sample contiene informazioni su una sezione della sessione raccolti da Google Analytics 360 e inviati a BigQuery.

Obiettivi

In questo tutorial utilizzerai quanto segue:

  • BigQuery ML: per creare un modello di suggerimenti impliciti utilizzando l'istruzione CREATE MODEL.
  • La funzione ML.EVALUATE: valutare i modelli ML.
  • La funzione ML.WEIGHTS: per ispezionare i pesi dei fattori latenti generati durante l'addestramento.
  • La funzione ML.RECOMMEND: per produrre consigli per un utente.

Costi

Questo tutorial utilizza i componenti fatturabili di Google Cloud, tra cui:

  • BigQuery
  • BigQuery ML

Per ulteriori informazioni sui costi di BigQuery, consulta Prezzi di BigQuery.

Per ulteriori informazioni sui costi di BigQuery ML, consulta Prezzi di BigQuery ML.

Prima di iniziare

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  3. Make sure that billing is enabled for your Google Cloud project.

  4. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  5. Make sure that billing is enabled for your Google Cloud project.

  6. BigQuery viene attivato automaticamente nei nuovi progetti. Per attivare BigQuery in un progetto preesistente, vai a

    Enable the BigQuery API.

    Enable the API

Passaggio 1: crea il set di dati

Crea un set di dati BigQuery per archiviare il tuo modello ML:

  1. Nella console Google Cloud, vai alla pagina BigQuery.

    Vai alla pagina di BigQuery

  2. Nel riquadro Explorer, fai clic sul nome del progetto.

  3. Fai clic su Visualizza azioni > Crea set di dati.

    Crea il set di dati.

  4. Nella pagina Crea set di dati, segui questi passaggi:

    • In ID set di dati, inserisci bqml_tutorial.

    • Per Tipo di località, seleziona Più regioni e poi Stati Uniti (più regioni negli Stati Uniti).

      I set di dati pubblici sono archiviati nella US multiregione. Per semplicità, archivia il set di dati nella stessa posizione.

    • Lascia invariate le restanti impostazioni predefinite e fai clic su Crea il set di dati.

      Pagina Crea set di dati.

Passaggio 2: carica i dati di Analytics 360 in BigQuery

Nella maggior parte dei casi, le valutazioni nei tuoi dati non riflettono un valore impostato esplicitamente da un utente. In scenari del genere, possiamo concepire un proxy per questi valori una valutazione implicita e utilizzare un algoritmo diverso per calcolare i suggerimenti. In questo esempio, utilizzeremo un set di dati di Analytics 360 di esempio. Questo esempio è in base a quanto segue: articolo.

Di seguito è riportata una query da eseguire per creare un set di dati con valutazioni implicite da la durata della sessione di un visitatore su una pagina dal cloud-training-demos.GA360_test.ga_sessions_sample. L'obiettivo di questa query è per creare un set di dati con tre colonne da mappare a una colonna utente, elemento e la colonna di classificazione.

  1. Nella console Google Cloud, fai clic sul pulsante Crea nuova query.

  2. Inserisci la seguente query GoogleSQL nell'area di testo Editor query.

    #standardSQL
CREATE OR REPLACE TABLE
 bqml_tutorial.analytics_session_data AS
WITH
 visitor_page_content AS (
 SELECT
   fullVisitorID,
   (
   SELECT
     MAX(
     IF
       (index=10,
         value,
         NULL))
   FROM
     UNNEST(hits.customDimensions)) AS latestContentId,
   (LEAD(hits.time, 1)
     OVER (PARTITION BY fullVisitorId ORDER BY hits.time ASC) - hits.time)
             AS session_duration
 FROM
   `cloud-training-demos.GA360_test.ga_sessions_sample`,
   UNNEST(hits) AS hits
 WHERE
   # only include hits on pages
   hits.type = "PAGE"
 GROUP BY
   fullVisitorId,
   latestContentId,
   hits.time )
 # aggregate web stats
SELECT
 fullVisitorID AS visitorId,
 latestContentId AS contentId,
 SUM(session_duration) AS session_duration
FROM
 visitor_page_content
WHERE
 latestContentId IS NOT NULL
GROUP BY
 fullVisitorID,
 latestContentId
HAVING
 session_duration > 0
ORDER BY
 latestContentId

  3. (Facoltativo) Per impostare il luogo di elaborazione, fai clic su Altro > Impostazioni query. In Località di elaborazione, scegli US. Questo passaggio è facoltativo perché la località di elaborazione viene rilevata automaticamente in base alla posizione del set di dati.

    Impostazioni query.

  4. Fai clic su Esegui.

    Al termine dell'esecuzione della query, nel riquadro di navigazione viene visualizzato il valore (bqml_tutorial.analytics_session_data). Poiché la query utilizza un'istruzione CREATE TABLE per creare una tabella, non vengono visualizzati i risultati della query.

  5. Se si guarda la tabella prodotto, dovrebbe avere un aspetto simile a quello seguenti:

    Risultati delle query.

    Tieni presente che questo risultato è specifico per il modo in cui i dati sono stati esportati in in BigQuery. La query per estrarre i tuoi dati potrebbe essere diversa.

Passaggio 3. Crea il tuo modello di suggerimenti impliciti

Successivamente, crea un modello di consigli impliciti utilizzando la tabella di Google Analytics caricata nel passaggio precedente. La seguente query GoogleSQL viene utilizzata per creare il modello che verrà utilizzato per prevedere una valutazione dell'affidabilità per ogni coppia visitorId contentId. Viene creata una valutazione centrata e scalata in base alla durata media della sessione e filtra i record in cui la durata della sessione è superiore a 3, 33 volte la mediana come valori anomali.

#standardSQL
CREATE OR REPLACE MODEL `bqml_tutorial.my_implicit_mf_model`
OPTIONS
  (model_type='matrix_factorization',
   feedback_type='implicit',
   user_col='visitorId',
   item_col='contentId',
   rating_col='rating',
   l2_reg=30,
   num_factors=15) AS
SELECT
  visitorId,
  contentId,
  0.3 * (1 + (session_duration - 57937) / 57937) AS rating
FROM `bqml_tutorial.analytics_session_data`
WHERE 0.3 * (1 + (session_duration - 57937) / 57937) < 1

Dettagli query

La clausola CREATE MODEL viene utilizzata per creare e addestrare il modello denominato bqml_tutorial.my_implicit_mf_model.

La clausola OPTIONS(model_type='matrix_factorization', feedback_type='IMPLICIT', user_col='visitorId', ...) indica che stai creando un modello di fattorizzazione matriciale. Poiché feedback_type='IMPLICIT' viene addestrato un modello di fattorizzazione matriciale implicita. Un esempio di come creare un modello di fattorizzazione matriciale esplicito è spiegato in Creare un modello di fattorizzazione matriciale esplicito.

L'istruzione SELECT di questa query utilizza le seguenti colonne per generare consigli.

  • visitorId: l'ID visitatore (INT64).
  • contentId: l'ID contenuto (INT64).
  • rating: la valutazione implicita da 0 a 1 calcolata per visitorId e i rispettivi contentId centrati e scalati (FLOAT64).

Clausola FROM—bqml_tutorial.analytics_session_data — indica che stai eseguendo una query sulla tabella analytics_session_data nel bqml_tutorial set di dati. Questo set di dati si trova nel tuo progetto BigQuery se seguite le istruzioni nei passaggi due e otto.

Esegui la query CREATE MODEL

Per eseguire la query CREATE MODEL in modo da creare e addestrare il modello:

  1. Nella console Google Cloud, fai clic sul pulsante Crea nuova query.

  2. Inserisci la seguente query GoogleSQL nell'area di testo Editor query.

    #standardSQL
CREATE OR REPLACE MODEL `bqml_tutorial.my_implicit_mf_model`
OPTIONS
 (model_type='matrix_factorization',
  feedback_type='implicit',
  user_col='visitorId',
  item_col='contentId',
  rating_col='rating',
  l2_reg=30,
  num_factors=15) AS
SELECT
 visitorId,
 contentId,
 0.3 * (1 + (session_duration - 57937) / 57937) AS rating
FROM `bqml_tutorial.analytics_session_data`

  3. Fai clic su Esegui.

    Il completamento della query richiede circa 12 minuti, dopodiché il modello (my_implicit_mf_model) viene visualizzato nel pannello di navigazione. Poiché la query usa un'istruzione CREATE MODEL per creare un modello, non vedi query che consentono di analizzare i dati e visualizzare i risultati.

(Facoltativo) Passaggio quattro: ottieni le statistiche di addestramento

Per vedere i risultati dell'addestramento del modello, puoi utilizzare ML.TRAINING_INFO o visualizzare le statistiche nella console Google Cloud. In questo tutorial utilizzi la console Google Cloud.

Un algoritmo di machine learning crea un modello esaminando molti esempi e tentando di trovare un modello che minimizzi la perdita. Questo processo è noto come minimizzazione empirica del rischio.

Per visualizzare le statistiche di addestramento del modello generate durante l'esecuzione CREATE MODEL query:

  1. Nel pannello di navigazione della console Google Cloud, nella sezione Risorse, espandi [PROJECT_ID] > bqml_tutorial e poi fai clic su my_implicit_mf_model.

  2. Fai clic sulla scheda Addestramento e quindi su Tabella. I risultati dovrebbero apparire ad esempio:

    Output di ML.TRAINING_INFO.

    La colonna Perdita di dati di addestramento rappresenta la metrica relativa alla perdita calcolata dopo l'addestramento del modello sul set di dati di addestramento. Dato che hai eseguito fattorizzazione matriciale, questa colonna rappresenta l'errore quadratico medio. Per impostazione predefinita, i modelli di fattorizzazione della matrice non suddividono i dati, pertanto la colonna Perdita dati di valutazione non sarà presente a meno che non venga specificato un set di dati di controllo, in quanto la suddivisione dei dati potrebbe comportare la perdita di tutte le valutazioni per un utente o un articolo. Di conseguenza, il modello non avrà informazioni sui fattori latenti su utenti o elementi mancanti.

    Per ulteriori dettagli sulla funzione ML.TRAINING_INFO, consulta le Riferimento alla sintassi di BigQuery ML.

Passaggio 5: valuta il modello

Dopo aver creato il modello, valuterai le prestazioni del motore per suggerimenti utilizzando la funzione ML.EVALUATE. La funzione ML.EVALUATE valuta la previsione valutazioni rispetto alle valutazioni effettive.

La query utilizzata per valutare il modello è la seguente:

#standardSQL
SELECT
  *
FROM
  ML.EVALUATE(MODEL `bqml_tutorial.my_implicit_mf_model`)

Dettagli query

L'istruzione SELECT più in alto recupera le colonne dal modello.

La clausola FROM utilizza la funzione ML.EVALUATE sul tuo modello: bqml_tutorial.my_implicit_mf_model.

Esegui la query ML.EVALUATE

Per eseguire la query ML.EVALUATE che valuta il modello:

  1. Nella console Google Cloud, fai clic sul pulsante Crea nuova query.

  2. Inserisci la seguente query GoogleSQL nell'area di testo Editor query.

    #standardSQL
SELECT
 *
FROM
 ML.EVALUATE(MODEL `bqml_tutorial.my_implicit_mf_model`)

  3. (Facoltativo) Per impostare il luogo di elaborazione, fai clic su Altro > Impostazioni query. In Località di elaborazione, scegli US. Questo passaggio è facoltativo perché la località di elaborazione viene rilevata automaticamente in base alla posizione del set di dati.

    Impostazioni query.

  4. Fai clic su Esegui.

  5. Una volta completata la query, fai clic sulla scheda Risultati sotto il testo della query. in ogni area. I risultati dovrebbero essere simili ai seguenti:

    Output ML.EVALUATE.

    Poiché hai eseguito una fattorizzazione della matrice implicita, i risultati includono le seguenti colonne:

    • mean_average_precision
    • mean_squared_error
    • normalized_discounted_cumulative_gain
    • average_rank

    mean_average_precision, normalized_discounted_cumulative_gain e average_rank sono metriche di ranking spiegate qui: Metriche di fattorizzazione matriciale implicita

Passaggio sei: prevedi le valutazioni e dai consigli

Utilizza il modello per prevedere le valutazioni e dare consigli

Trova tutte le confidenza della valutazione contentId per un insieme di visitorIds

ML.RECOMMEND non deve accettare altri argomenti oltre al modello, ma può accettare una tabella facoltativa. Se la tabella di input ha una sola colonna che corrisponde al nome della colonna user o item di input, verranno visualizzate tutte le valutazioni degli articoli previste per ogni user e viceversa. Nota che se tutti gli elementi users o items sono nella tabella di input, restituirà gli stessi risultati della trasmissione di nessun argomento facoltativo a ML.RECOMMEND.

Di seguito è riportato un esempio di query per recuperare tutte le valutazioni previste per 5 visitatori.

#standardSQL
SELECT
  *
FROM
  ML.RECOMMEND(MODEL `bqml_tutorial.my_implicit_mf_model`,
    (
    SELECT
      visitorId
    FROM
      `bqml_tutorial.analytics_session_data`
    LIMIT 5))

Dettagli query

L'istruzione SELECT più in alto recupera gli visitorId, contentId e predicted_rating_confidence. Questa ultima colonna viene generata dalla funzione ML.RECOMMEND. Quando utilizzi la funzione ML.RECOMMEND, il nome della colonna di output per i modelli di fattorizzazione matriciale implicita è predicted_rating-column-name_confidence. Per i modelli di fattorizzazione matriciale implicita, predicted_rating_confidence è l'affidabilità stimata per la coppia user/item. Questo valore di confidenza si aggira tra 0 e 1, dove un valore di confidenza più elevato indica che user preferisce item più di un item con un valore di confidenza inferiore.

La ML.RECOMMEND viene utilizzata per prevedere le valutazioni utilizzando il tuo modello: bqml_tutorial.my_implicit_mf_model.

L'istruzione SELECT nidificata di questa query seleziona solo la colonna visitorId da la tabella originale utilizzata per l'addestramento.

La clausola LIMIT (LIMIT 5) filtrerà in modo casuale 5 visitorId da inviare a ML.RECOMMEND.

Trovare le classificazioni per tutte le coppie di visitorId e contentId

Ora che hai valutato il modello, il passaggio successivo consiste nell'utilizzarlo per ottenere un'esattezza della classificazione. Utilizzi il tuo modello per prevedere gli intervalli di confidenza di ogni combinazione di utente e articolo nella seguente query:

#standardSQL
SELECT
  *
FROM
  ML.RECOMMEND(MODEL `bqml_tutorial.my_implicit_mf_model`)

Dettagli query

L'istruzione SELECT più in alto recupera gli visitorId, contentId e predicted_rating_confidence. Questa ultima colonna viene generata dalla funzione ML.RECOMMEND. Quando utilizzi la funzione ML.RECOMMEND, l'output il nome colonna per i modelli di fattorizzazione matriciale implicita è predicted_rating-column-name_confidence. Per i modelli di fattorizzazione matriciale implicita, predicted_rating_confidence è l'affidabilità stimata per la coppia user/item. Questo valore di affidabilità si colloca approssimativamente tra 0 e 1, dove un valore di affidabilità più elevato indica che user preferisce item più di un item con un valore di affidabilità più basso.

La funzione ML.RECOMMEND viene utilizzata per prevedere le valutazioni utilizzando il modello bqml_tutorial.my_implicit_mf_model.

Un modo per salvare il risultato nella tabella è:

#standardSQL
CREATE OR REPLACE TABLE `bqml_tutorial.recommend_content`
OPTIONS() AS
SELECT
  *
FROM
  ML.RECOMMEND(MODEL `bqml_tutorial.my_implicit_mf_model`)

Se si verifica un errore di Query Exceeded Resource Limits per ML.RECOMMEND, riprova con un livello di fatturazione più elevato. Nello strumento a riga di comando di BigQuery, puoi impostare --maximum_billing_tier.

Genera suggerimenti

La seguente query utilizza ML.RECOMMEND per produrre i 5 contentId consigliati migliori per visitorId.

#standardSQL
SELECT
  visitorId,
  ARRAY_AGG(STRUCT(contentId, predicted_rating_confidence)
    ORDER BY predicted_rating_confidence DESC LIMIT 5) AS rec
FROM
  `bqml_tutorial.recommend_content`
GROUP BY
  visitorId

Dettagli query

L'istruzione SELECT aggrega i risultati della query ML.RECOMMEND per utilizzando GROUP BY visitorId per aggregare contentId e predicted_rating_confidence in ordine decrescente e mantiene solo le prime 5 ID contenuti.

Utilizzando la query sui consigli precedente, possiamo ordinare in base alla valutazione prevista e visualizzare gli articoli previsti principali per ciascun utente. La seguente query unisce item_ids con movie_ids trovato nella tabella movielens.movie_titles caricati in precedenza, restituisce i 5 film consigliati più popolari per utente.

Esegui la query ML.RECOMMEND

Per eseguire la query ML.RECOMMEND che restituisce i primi 5 ID contenuti consigliati per ID visitatore:

  1. Nella console Google Cloud, fai clic sul pulsante Crea nuova query.

  2. Inserisci la seguente query GoogleSQL nell'area di testo Editor query.

    #standardSQL
CREATE OR REPLACE TABLE `bqml_tutorial.recommend_content`
OPTIONS() AS
SELECT
 *
FROM
 ML.RECOMMEND(MODEL `bqml_tutorial.my_implicit_mf_model`)

  3. Fai clic su Esegui.

    Al termine dell'esecuzione della query, (bqml_tutorial.recommend_content) verrà visualizzato nel riquadro di navigazione della console Google Cloud. Poiché la query utilizza un'istruzione CREATE TABLE per creare una tabella, non vengono visualizzati i risultati della query.

  4. Crea un'altra nuova query. Inserisci la seguente query GoogleSQL nel Area di testo Editor di query al termine dell'esecuzione della query precedente.

    #standardSQL
SELECT
 visitorId,
 ARRAY_AGG(STRUCT(contentId, predicted_rating_confidence)
   ORDER BY predicted_rating_confidence DESC LIMIT 5) AS rec
FROM
 `bqml_tutorial.recommend_content`
GROUP BY
 visitorId

  5. (Facoltativo) Per impostare il luogo di elaborazione, fai clic su Altro > Impostazioni query. Per Località di elaborazione, scegli US. Questo passaggio è facoltativo perché di elaborazione viene rilevata automaticamente in base alla località del set di dati.

    Impostazioni query.

  6. Fai clic su Esegui.

  7. Una volta completata la query, fai clic sulla scheda Risultati sotto l'area di testo della query. I risultati dovrebbero essere simili ai seguenti:

    Output di ML.RECOMMEND.

Esegui la pulizia

Per evitare che al tuo account Google Cloud vengano addebitati costi relativi alle risorse utilizzate in questo tutorial, elimina il progetto che contiene le risorse oppure mantieni il progetto ed elimina le singole risorse.

  • Puoi eliminare il progetto che hai creato.
  • In alternativa, puoi mantenere il progetto ed eliminare il set di dati.

Eliminare il set di dati

L'eliminazione del progetto rimuove tutti i set di dati e tutte le tabelle nel progetto. Se preferisci riutilizzare il progetto, puoi eliminare il set di dati creato in questo tutorial:

  1. Se necessario, apri la pagina BigQuery nella console Google Cloud.

    Vai alla pagina di BigQuery

  2. Nel menu di navigazione, fai clic sul set di dati bqml_tutorial che hai creato.

  3. Fai clic su Elimina set di dati sul lato destro della finestra. Questa azione elimina il set di dati, la tabella e tutti i dati.

  4. Nella finestra di dialogo Elimina set di dati, conferma il comando di eliminazione digitando il nome del set di dati (bqml_tutorial) e fai clic su Elimina.

Elimina il progetto

Per eliminare il progetto:

  1. In the Google Cloud console, go to the Manage resources page.

    Go to Manage resources

  2. In the project list, select the project that you want to delete, and then click Delete.
  3. In the dialog, type the project ID, and then click Shut down to delete the project.

Passaggi successivi