Utilizzare BigQuery ML per dare suggerimenti dai dati di Google Analytics

Mantieni tutto organizzato con le raccolte Salva e classifica i contenuti in base alle tue preferenze.

Questo tutorial presenta agli analisti di dati il modello di fattorizzazione matriciale in BigQuery ML. BigQuery ML consente agli utenti di creare ed eseguire modelli di machine learning in BigQuery utilizzando query SQL. L'obiettivo è democratizzare il machine learning consentendo ai professionisti SQL di creare modelli utilizzando i loro strumenti esistenti e di aumentare la velocità di sviluppo eliminando la necessità di spostare i dati.

In questo tutorial imparerai a creare un modello di fattorizzazione matrice dal feedback implicito utilizzando la tabella di esempio GA360_test.ga_sessions_sample per fornire suggerimenti in base a un ID visitatore e un ID contenuto.

La tabella ga_sessions_sample contiene informazioni su una porzione dei dati di sessione raccolti da Google Analytics 360 e inviati a BigQuery.

Obiettivi

In questo tutorial utilizzerai:

  • BigQuery ML: per creare un modello di suggerimenti implicito, utilizzando l'istruzione CREATE MODEL.
  • La funzione ML.EVALUATE: per valutare i modelli di machine learning.
  • La funzione ML.WEIGHTS: per ispezionare i pesi dei fattori latenti generati durante l'addestramento.
  • La funzione ML.RECOMMEND: per produrre consigli per un utente.

Costi

Questo tutorial utilizza componenti fatturabili di Google Cloud, tra cui:

  • BigQuery
  • BigQuery ML

Per ulteriori informazioni sui costi di BigQuery, consulta la pagina Prezzi di BigQuery.

Per ulteriori informazioni sui costi di BigQuery ML, consulta la pagina Prezzi di BigQuery ML.

Prima di iniziare

  1. Accedi al tuo account Google Cloud. Se non conosci Google Cloud, crea un account per valutare le prestazioni dei nostri prodotti in scenari reali. I nuovi clienti ricevono anche 300 $di crediti gratuiti per l'esecuzione, il test e il deployment dei carichi di lavoro.
  2. Nella pagina del selettore dei progetti in Google Cloud Console, seleziona o crea un progetto Google Cloud.

    Vai al selettore progetti

  3. Assicurati che la fatturazione sia attivata per il tuo progetto Cloud. Scopri come verificare se la fatturazione è abilitata su un progetto.

  4. Nella pagina del selettore dei progetti in Google Cloud Console, seleziona o crea un progetto Google Cloud.

    Vai al selettore progetti

  5. Assicurati che la fatturazione sia attivata per il tuo progetto Cloud. Scopri come verificare se la fatturazione è abilitata su un progetto.

  6. La funzionalità BigQuery viene attivata automaticamente nei nuovi progetti. Per attivare BigQuery in un progetto preesistente, vai a

    Attiva l'API BigQuery.

    Abilita l'API

Passaggio 1: crea il set di dati

Il primo passaggio consiste nel creare un set di dati BigQuery per archiviare il tuo modello ML. Per creare il set di dati:

  1. In Google Cloud Console, vai alla pagina BigQuery.

    Vai alla pagina BigQuery

  2. Nella sezione Risorse, fai clic sul nome del progetto.

  3. Nel riquadro dei dettagli, fai clic su Crea set di dati.

    Crea il set di dati.

  4. Nella pagina Crea set di dati:

    • In ID set di dati, inserisci bqml_tutorial.
    • Per Località dei dati, scegli Stati Uniti (US). Attualmente, i set di dati pubblici sono archiviati nella USpiù aree geografiche location. Per semplicità, devi posizionare il set di dati nella stessa posizione.

      Crea la pagina del set di dati.

  5. Lascia invariate tutte le altre impostazioni predefinite e fai clic su Crea set di dati.

Passaggio 2: carica i dati di Google Analytics 360 in BigQuery

Nella maggior parte dei casi, le valutazioni nei tuoi dati non riflettono un valore che un utente imposta esplicitamente. In questi casi, possiamo concepire un proxy per questi valori come valutazione implicita e utilizzare un algoritmo diverso per calcolare i consigli. In questo esempio, esamineremo un set di dati di esempio di Google Analytics 360. Questo esempio si basa sul seguente articolo.

Di seguito è riportata una query da eseguire per creare un set di dati con valutazioni implicite relative alla durata della sessione che un visitatore ha inserito su una pagina dalla cloud-training-demos.GA360_test.ga_sessions_sample. L'obiettivo di questa query è creare un set di dati con tre colonne che possiamo mappare a una colonna utente, una colonna elemento e una colonna valutazione.

  1. In Google Cloud Console, fai clic sul pulsante Crea nuova query.

  2. Inserisci la seguente query SQL standard nell'area di testo Editor query.

    #standardSQL
    CREATE OR REPLACE TABLE
     bqml_tutorial.analytics_session_data AS
    WITH
     visitor_page_content AS (
     SELECT
       fullVisitorID,
       (
       SELECT
         MAX(
         IF
           (index=10,
             value,
             NULL))
       FROM
         UNNEST(hits.customDimensions)) AS latestContentId,
       (LEAD(hits.time, 1)
         OVER (PARTITION BY fullVisitorId ORDER BY hits.time ASC) - hits.time)
                 AS session_duration
     FROM
       `cloud-training-demos.GA360_test.ga_sessions_sample`,
       UNNEST(hits) AS hits
     WHERE
       # only include hits on pages
       hits.type = "PAGE"
     GROUP BY
       fullVisitorId,
       latestContentId,
       hits.time )
     # aggregate web stats
    SELECT
     fullVisitorID AS visitorId,
     latestContentId AS contentId,
     SUM(session_duration) AS session_duration
    FROM
     visitor_page_content
    WHERE
     latestContentId IS NOT NULL
    GROUP BY
     fullVisitorID,
     latestContentId
    HAVING
     session_duration > 0
    ORDER BY
     latestContentId
    
  3. (Facoltativo) Per impostare la località di elaborazione, fai clic su Altre impostazioni di query. In Località di elaborazione, scegli US. Questo passaggio è facoltativo perché la località di elaborazione viene rilevata automaticamente in base alla località del set di dati.

    Impostazioni query.

  4. Fai clic su Esegui.

    Al termine dell'esecuzione della query, (bqml_tutorial.analytics_session_data) verrà visualizzata nel pannello di navigazione. Poiché la query utilizza un'istruzione CREATE TABLE per creare una tabella, non vedi i risultati.

  5. Se dai un'occhiata alla tabella prodotta, dovresti avere un aspetto simile al seguente:

    Risultati della query

    Tieni presente che questo risultato è specifico per il modo in cui i dati sono stati esportati in BigQuery. La query che potrebbe estrarre i dati può variare.

Passaggio 3: crea il modello di consigli impliciti

Quindi, puoi creare un modello di suggerimenti implicito utilizzando la tabella di Google Analytics che hai caricato nel passaggio precedente. La seguente query SQL standard viene utilizzata per creare il modello che verrà utilizzato per prevedere una valutazione di affidabilità per ogni coppia visitorId contentId. Viene creata una valutazione centrata e scalata dalla durata mediana della sessione, filtrando i record in cui la durata della sessione è superiore a 3,33 volte la mediana come outlier.

#standardSQL
CREATE OR REPLACE MODEL bqml_tutorial.my_implicit_mf_model
OPTIONS
  (model_type='matrix_factorization',
   feedback_type='implicit',
   user_col='visitorId',
   item_col='contentId',
   rating_col='rating',
   l2_reg=30,
   num_factors=15) AS
SELECT
  visitorId,
  contentId,
  0.3 * (1 + (session_duration - 57937) / 57937) AS rating
FROM bqml_tutorial.analytics_session_data
WHERE 0.3 * (1 + (session_duration - 57937) / 57937) < 1

Dettagli query

La clausola CREATE MODEL viene utilizzata per creare e addestrare il modello denominato bqml_tutorial.my_implicit_mf_model.

La clausola OPTIONS(model_type='matrix_factorization', feedback_type='IMPLICIT', user_col='visitorId', ...) indica che stai creando un modello di fattorizzazione matrice. Poiché è specificato il modello feedback_type='IMPLICIT', viene addestrato un modello di fattorizzazione implicito a matrice. Un esempio di come creare un modello di fattorizzazione a matrice esplicita è spiegato nella sezione Creazione di un modello di fattorizzazione a matrice esplicita.

L'istruzione SELECT di questa query utilizza le seguenti colonne per generare suggerimenti.

  • visitorId: l'ID visitatore (INT64).
  • contentId: l'ID contenuto (INT64).
  • rating: la valutazione implicita da 0 a 1 calcolata per visitorId e il rispettivo contentId centrato e ridimensionato (FLOAT64).

La clausola FROM - bqml_tutorial.analytics_session_data - indica che stai eseguendo una query sulla tabella analytics_session_data nel set di dati bqml_tutorial. Questo set di dati è nel tuo progetto BigQuery se segui le istruzioni nei passaggi 2 e 8.

Esegui la query CREATE MODEL

Per eseguire la query CREATE MODEL per creare e addestrare il modello:

  1. In Google Cloud Console, fai clic sul pulsante Crea nuova query.

  2. Inserisci la seguente query SQL standard nell'area di testo Editor query.

    #standardSQL
    CREATE OR REPLACE MODEL bqml_tutorial.my_implicit_mf_model
    OPTIONS
     (model_type='matrix_factorization',
      feedback_type='implicit',
      user_col='visitorId',
      item_col='contentId',
      rating_col='rating',
      l2_reg=30,
      num_factors=15) AS
    SELECT
     visitorId,
     contentId,
     0.3 * (1 + (session_duration - 57937) / 57937) AS rating
    FROM bqml_tutorial.analytics_session_data
    
  3. Fai clic su Esegui.

    Il completamento della query richiede circa 12 minuti, dopodiché il tuo modello (my_implicit_mf_model) verrà visualizzato nel pannello di navigazione. Poiché la query utilizza un'istruzione CREATE MODEL per creare un modello, i risultati della query non vengono visualizzati.

(Facoltativo) Passaggio 4: visualizza le statistiche di addestramento

Per vedere i risultati dell'addestramento del modello, puoi utilizzare la funzione ML.TRAINING_INFO o visualizzare le statistiche in Google Cloud Console. In questo tutorial, utilizzerai Google Cloud Console.

Un algoritmo di machine learning crea un modello esaminando molti esempi e tenta di trovarne uno che riduca al minimo le perdite. Questo processo è chiamato minimizzazione del rischio empirico.

Per visualizzare le statistiche di addestramento del modello generate quando hai eseguito la query CREATE MODEL:

  1. Nel riquadro di navigazione di Google Cloud Console, nella sezione Risorse, espandi [PROJECT_ID] > bqml_tutorial e fai clic su my_implicit_mf_model.

  2. Fai clic sulla scheda Formazione e poi su Tabella. I risultati dovrebbero avere l'aspetto seguente:

    ML.TRAINING_INFO.

    La colonna Perdita dei dati di addestramento rappresenta la metrica della perdita calcolata dopo l'addestramento del modello sul set di dati di addestramento. Poiché hai eseguito la fattorizzazione matrice, questa colonna è l'errore al quadrato medio. Per impostazione predefinita, i modelli di fattorizzazione matrici non suddividono i dati, quindi la colonna Perdita dei dati di valutazione non sarà presente a meno che non venga specificato un set di dati di holdout perché la suddivisione dei dati può comportare la perdita di tutte le valutazioni di un utente o di un elemento. Di conseguenza, il modello non avrà informazioni relative ai fattori latenti sugli utenti o sugli elementi mancanti.

    Per maggiori dettagli sulla funzione ML.TRAINING_INFO, consulta la guida alla sintassi di BigQuery ML.

Passaggio 5: valuta il modello

Dopo aver creato il modello, viene valutata le prestazioni del motore per suggerimenti utilizzando la funzione ML.EVALUATE. La funzione ML.EVALUATE valuta le valutazioni previste rispetto alle valutazioni effettive.

La query utilizzata per valutare il modello è la seguente:

#standardSQL
SELECT
  *
FROM
  ML.EVALUATE(MODEL `bqml_tutorial.my_implicit_mf_model`)

Dettagli query

L'istruzione SELECT più in alto recupera le colonne dal modello.

La clausola FROM utilizza la funzione ML.EVALUATE sul tuo modello: bqml_tutorial.my_implicit_mf_model.

Esegui la query ML.EVALUATE

Per eseguire la query ML.EVALUATE che valuta il modello:

  1. In Google Cloud Console, fai clic sul pulsante Crea nuova query.

  2. Inserisci la seguente query SQL standard nell'area di testo Editor query.

    #standardSQL
    SELECT
     *
    FROM
     ML.EVALUATE(MODEL bqml_tutorial.my_implicit_mf_model)
    
  3. (Facoltativo) Per impostare la località di elaborazione, fai clic su Altre impostazioni di query. In Località di elaborazione, scegli US. Questo passaggio è facoltativo perché la località di elaborazione viene rilevata automaticamente in base alla località del set di dati.

    Impostazioni query.

  4. Fai clic su Esegui.

  5. Quando la query è completa, fai clic sulla scheda Risultati sotto l'area del testo della query. I risultati dovrebbero avere l'aspetto seguente:

    Output ML.EVALUATE.

    Poiché hai eseguito una fattorizzazione implicita a matrice, i risultati includono le seguenti colonne:

    • mean_average_precision
    • mean_squared_error
    • normalized_discounted_cumulative_gain
    • average_rank

    mean_average_precision, normalized_discounted_cumulative_gain e average_rank sono metriche di ranking che vengono spiegate qui: Metriche di fattorizzazione della matrice implicita

Passaggio 6: utilizza il modello per prevedere le valutazioni e dare consigli

Trova tutte le classificazioni di contentId per un insieme di visitorIds

ML.RECOMMEND non richiede altri argomenti oltre al modello, ma può utilizzare una tabella facoltativa. Se la tabella di input ha una sola colonna che corrisponde al nome della colonna di input user o di input item, verranno dotate tutte le valutazioni previste degli elementi per user e viceversa. Tieni presente che se tutti i valori users o tutti gli elementi items si trovano nella tabella di input, verranno restituiti gli stessi risultati di nessun argomento facoltativo a ML.RECOMMEND.

Di seguito è riportato un esempio di query per recuperare tutte le probabilità di valutazione previste per 5 visitatori.

#standardSQL
SELECT
  *
FROM
  ML.RECOMMEND(MODEL bqml_tutorial.my_implicit_mf_model,
    (
    SELECT
      visitorId
    FROM
      bqml_tutorial.analytics_session_data
    LIMIT 5))

Dettagli query

L'istruzione SELECT più in alto recupera le colonne visitorId, contentId e predicted_rating_confidence. Questa ultima colonna viene generata dalla funzione ML.RECOMMEND. Quando utilizzi la funzione ML.RECOMMEND, il nome della colonna di output per i modelli di fattorizzazione implicita della matrice è predicted_rating-column-name_confidence. Per i modelli di fattorizzazione implicita, predicted_rating_confidence è la confidenza stimata per la coppia user/item. Questo valore di confidenza è approssimativamente compreso tra 0 e 1 dove la confidenza più alta indica che user preferisce item rispetto a un item con un valore di confidenza più basso.

La funzione ML.RECOMMEND viene utilizzata per prevedere le valutazioni utilizzando il tuo modello: bqml_tutorial.my_implicit_mf_model.

L'istruzione SELECT nidificata di questa query seleziona solo la colonna visitorId dalla tabella originale utilizzata per l'addestramento.

La clausola LIMIT, LIMIT 5, filtrerà in modo casuale cinque visitorId da inviare a ML.RECOMMEND.

Trova le valutazioni per tutte le coppie visitorId contentId

Ora che hai valutato il modello, il passaggio successivo consiste nell'utilizzarlo per ottenere una classificazione sicura. Puoi utilizzare il modello per prevedere il grado di affidabilità di ogni combinazione di elemento utente nella query seguente:

#standardSQL
SELECT
  *
FROM
  ML.RECOMMEND(MODEL bqml_tutorial.my_implicit_mf_model)

Dettagli query

L'istruzione SELECT più in alto recupera le colonne visitorId, contentId e predicted_rating_confidence. Questa ultima colonna viene generata dalla funzione ML.RECOMMEND. Quando utilizzi la funzione ML.RECOMMEND, il nome della colonna di output per i modelli di fattorizzazione implicita della matrice è predicted_rating-column-name_confidence. Per i modelli di fattorizzazione implicita a matrice, predicted_rating_confidence è la confidenza stimata per la coppia user/item. Questo valore di confidenza è approssimativamente compreso tra 0 e 1 dove la maggiore affidabilità indica che user preferisce item rispetto a un item con un valore di confidenza più basso.

La funzione ML.RECOMMEND viene utilizzata per prevedere le valutazioni utilizzando il tuo modello: bqml_tutorial.my_implicit_mf_model.

Un modo per salvare il risultato nella tabella è:

#standardSQL
CREATE OR REPLACE TABLE bqml_tutorial.recommend_content
OPTIONS() AS
SELECT
  *
FROM
  ML.RECOMMEND(MODEL bqml_tutorial.my_implicit_mf_model)

Se si verifica un errore Query Exceeded Resource Limits per ML.RECOMMEND, riprova con un livello di fatturazione più elevato. Nello strumento a riga di comando di BigQuery è possibile utilizzare --maximum_billing_tier.

Genera consigli

La seguente query utilizza ML.RECOMMEND per generare i primi cinque contentId consigliati per visitorId.

#standardSQL
SELECT
  visitorId,
  ARRAY_AGG(STRUCT(contentId, predicted_rating_confidence)
    ORDER BY predicted_rating_confidence DESC LIMIT 5) AS rec
FROM
  bqml_tutorial.recommend_content
GROUP BY
  visitorId

Dettagli query

L'istruzione SELECT aggrega i risultati della query ML.RECOMMEND utilizzando GROUP BY visitorId per aggregare contentId e predicted_rating_confidence in ordine decrescente e conserva solo i primi 5 ID contenuti.

Utilizzando la query sui consigli precedente, possiamo ordinare in base alla valutazione prevista e generare gli elementi previsti migliori per ciascun utente. La seguente query unisce i item_ids con il movie_ids trovato nella tabella movielens.movie_titles caricati in precedenza e genera i primi 5 film consigliati per utente.

Esegui la query ML.RECOMMEND

Per eseguire la query ML.RECOMMEND che genera i primi 5 ID contenuti consigliati per ID visitatore:

  1. In Google Cloud Console, fai clic sul pulsante Crea nuova query.

  2. Inserisci la seguente query SQL standard nell'area di testo Editor query.

    #standardSQL
    CREATE OR REPLACE TABLE bqml_tutorial.recommend_content
    OPTIONS() AS
    SELECT
     *
    FROM
     ML.RECOMMEND(MODEL bqml_tutorial.my_implicit_mf_model)
    
  3. Fai clic su Esegui.

    Al termine della query, (bqml_tutorial.recommend_content) verrà visualizzato nel pannello di navigazione di Google Cloud Console. Poiché la query utilizza un'istruzione CREATE TABLE per creare una tabella, non vedi i risultati della query.

  4. Scrivi un'altra nuova query. Inserisci la seguente query SQL standard nell'area di testo Editor query al termine dell'esecuzione della query precedente.

    #standardSQL
    SELECT
     visitorId,
     ARRAY_AGG(STRUCT(contentId, predicted_rating_confidence)
       ORDER BY predicted_rating_confidence DESC LIMIT 5) AS rec
    FROM
     `bqml_tutorial.recommend_content`
    GROUP BY
     visitorId
    
  5. (Facoltativo) Per impostare la località di elaborazione, fai clic su Altre impostazioni di query. In Località di elaborazione, scegli US. Questo passaggio è facoltativo perché la località di elaborazione viene rilevata automaticamente in base alla località del set di dati.

    Impostazioni query.

  6. Fai clic su Esegui.

  7. Quando la query è completa, fai clic sulla scheda Risultati sotto l'area del testo della query. I risultati dovrebbero avere l'aspetto seguente:

    Output ML.RECOMMEND.

Esegui la pulizia

Per evitare che al tuo Account Google Cloud vengano addebitati costi relativi alle risorse utilizzate in questo tutorial, elimina il progetto che contiene le risorse oppure mantieni il progetto ed elimina le singole risorse.

  • Puoi eliminare il progetto che hai creato.
  • In alternativa, puoi mantenere il progetto ed eliminare il set di dati.

Eliminazione del set di dati

L'eliminazione del progetto rimuove tutti i set di dati e tutte le tabelle che contiene. Se preferisci riutilizzare il progetto, puoi eliminare il set di dati che hai creato in questo tutorial:

  1. Se necessario, apri la pagina BigQuery in Google Cloud Console.

    Vai alla pagina BigQuery

  2. Nella navigazione, fai clic sul set di dati bqml_tutorial che hai creato.

  3. Fai clic su Elimina set di dati sul lato destro della finestra. Questa azione elimina il set di dati, la tabella e tutti i dati.

  4. Nella finestra di dialogo Elimina set di dati, conferma il comando di eliminazione digitando il nome del set di dati (bqml_tutorial) e fai clic su Elimina.

Eliminazione del progetto in corso...

Per eliminare il progetto:

  1. In Google Cloud Console, vai alla pagina Gestisci risorse.

    Vai a Gestisci risorse

  2. Nell'elenco dei progetti, seleziona il progetto che vuoi eliminare, quindi fai clic su Elimina.
  3. Nella finestra di dialogo, digita l'ID del progetto e fai clic su Chiudi per eliminare il progetto.

Passaggi successivi