Utilizzare BigQuery ML per dare consigli in base alle valutazioni dei film


Questo tutorial introduce gli analisti di dati al modello di fattorizzazione matriciale in BigQuery ML. BigQuery ML consente agli utenti di creare ed eseguire modelli di machine learning in BigQuery. L'obiettivo è democratizzare il machine learning consentendo ai professionisti SQL di creare modelli utilizzando i loro strumenti esistenti e di aumentare la velocità di sviluppo eliminando la necessità di spostare i dati.

In questo tutorial imparerai a creare un modello a partire da feedback espliciti utilizzando il set di dati movielens1m per dare consigli sulla base di un ID film e un ID utente.

Il set di dati movielens contiene le valutazioni, da una scala da 1 a 5, che gli utenti hanno dato ai film, insieme ai metadati del film, ad esempio il genere.

Obiettivi

In questo tutorial utilizzerai:

  • BigQuery ML per creare un modello di suggerimenti esplicito utilizzando l'istruzione CREATE MODEL
  • La funzione ML.EVALUATE per valutare i modelli ML
  • La funzione ML.WEIGHTS per esaminare i pesi dei fattori latenti generati durante l'addestramento.
  • La funzione ML.RECOMMEND consente di generare suggerimenti per un utente.

Costi

Questo tutorial utilizza i componenti fatturabili di Google Cloud, tra cui:

  • BigQuery
  • BigQuery ML

Per ulteriori informazioni sui costi di BigQuery, consulta la pagina Prezzi di BigQuery.

Per ulteriori informazioni sui costi di BigQuery ML, consulta Prezzi di BigQuery ML.

Prima di iniziare

  1. Accedi al tuo account Google Cloud. Se non conosci Google Cloud, crea un account per valutare le prestazioni dei nostri prodotti in scenari reali. I nuovi clienti ricevono anche 300 $di crediti gratuiti per l'esecuzione, il test e il deployment dei carichi di lavoro.
  2. Nella pagina del selettore di progetti della console Google Cloud, seleziona o crea un progetto Google Cloud.

    Vai al selettore progetti

  3. Assicurati che la fatturazione sia attivata per il tuo progetto Google Cloud.

  4. Nella pagina del selettore di progetti della console Google Cloud, seleziona o crea un progetto Google Cloud.

    Vai al selettore progetti

  5. Assicurati che la fatturazione sia attivata per il tuo progetto Google Cloud.

  6. BigQuery viene abilitato automaticamente nei nuovi progetti. Per attivare BigQuery in un progetto preesistente, vai a

    Attiva l'API BigQuery.

    Abilita l'API

Passaggio 1: crea il set di dati

Crea un set di dati BigQuery per archiviare il tuo modello ML:

  1. Nella console Google Cloud, vai alla pagina BigQuery.

    Vai alla pagina BigQuery

  2. Nel riquadro Explorer, fai clic sul nome del progetto.

  3. Fai clic su Visualizza azioni > Crea set di dati.

    Crea set di dati.

  4. Nella pagina Crea set di dati:

    • In ID set di dati, inserisci bqml_tutorial.

    • Per Tipo di località, seleziona Più regioni e poi Stati Uniti (più regioni negli Stati Uniti).

      I set di dati pubblici sono archiviati in US più regioni. Per semplicità, memorizza il set di dati nella stessa posizione.

    • Lascia invariate le restanti impostazioni predefinite e fai clic su Crea set di dati.

      Pagina Crea set di dati.

Passaggio due: carica il set di dati Movielens in BigQuery

Di seguito sono riportati i passaggi per caricare il set di dati Movielens da 1 milione in BigQuery utilizzando gli strumenti a riga di comando di BigQuery. Verrà creato un set di dati denominato movielens al quale verranno archiviate le tabelle Movielens pertinenti.

curl -O 'http://files.grouplens.org/datasets/movielens/ml-1m.zip'
unzip ml-1m.zip
bq mk --dataset movielens
sed 's/::/,/g' ml-1m/ratings.dat > ratings.csv
bq load --source_format=CSV movielens.movielens_1m ratings.csv \
  user_id:INT64,item_id:INT64,rating:FLOAT64,timestamp:TIMESTAMP

Poiché i titoli dei film contengono due punti, virgole e barre verticali, dobbiamo utilizzare un delimitatore diverso. Per caricare i titoli dei film, utilizza una variante leggermente diversa degli ultimi due comandi.

sed 's/::/@/g' ml-1m/movies.dat > movie_titles.csv
bq load --source_format=CSV --field_delimiter=@ \
 movielens.movie_titles movie_titles.csv \
 movie_id:INT64,movie_title:STRING,genre:STRING

Passaggio tre: crea un modello di suggerimenti espliciti

Successivamente, creerai un modello di suggerimenti esplicito utilizzando la tabella di esempio Movielens caricata nel passaggio precedente. La seguente query GoogleSQL viene utilizzata per creare il modello che verrà utilizzato per prevedere una valutazione per ogni coppia utente-elemento.

#standardSQL
CREATE OR REPLACE MODEL `bqml_tutorial.my_explicit_mf_model`
OPTIONS
  (model_type='matrix_factorization',
   user_col='user_id',
   item_col='item_id',
   l2_reg=9.83,
   num_factors=34) AS
SELECT
  user_id,
  item_id,
  rating
FROM `movielens.movielens_1m`

Oltre a creare il modello, l'esecuzione del comando CREATE MODEL addestra il modello che crei.

Dettagli query

La clausola CREATE MODEL viene utilizzata per creare e addestrare il modello denominato bqml_tutorial.my_explicit_mf_model.

La clausola OPTIONS(model_type='matrix_factorization', user_col='user_id', ...) indica che stai creando un modello di scomposizione matriciale. Per impostazione predefinita, verrà creato un modello di fattorizzazione matriciale esplicito, a meno che non venga specificato feedback_type='IMPLICIT'. Un esempio di come creare un modello di fattorizzazione matriciale implicita sarà spiegato nella sezione Utilizzo di BigQuery ML per fornire suggerimenti per il feedback implicito.

L'istruzione SELECT di questa query utilizza le seguenti colonne per generare suggerimenti.

  • user_id: l'ID utente (INT64).
  • item_id: l'ID film (INT64).
  • rating: la valutazione esplicita da 1 a 5 che il user_id ha assegnato a item_id (FLOAT64).

La clausola FROMmovielens.movielens_1m indica che stai eseguendo una query sulla tabella movielens_1m nel set di dati movielens. Questo set di dati si trova nel tuo progetto BigQuery se sono state seguite le istruzioni del passaggio 2.

Esegui la query CREATE MODEL

Per eseguire la query CREATE MODEL al fine di creare e addestrare il modello:

  1. Nella console Google Cloud, fai clic sul pulsante Crea nuova query.

  2. Inserisci la seguente query GoogleSQL nell'area di testo Editor query.

#standardSQL
CREATE OR REPLACE MODEL `bqml_tutorial.my_explicit_mf_model`
OPTIONS
  (model_type='matrix_factorization',
   user_col='user_id',
   item_col='item_id',
   l2_reg=9.83,
   num_factors=34) AS
SELECT
  user_id,
  item_id,
  rating
FROM `movielens.movielens_1m`
  1. Fai clic su Esegui.

    Il completamento della query richiede circa 10 minuti, dopodiché il modello (my_explicit_mf_model) viene visualizzato nel pannello di navigazione della console Google Cloud. Poiché la query utilizza un'istruzione CREATE MODEL per creare un modello, non vedrai i risultati della query.

Passaggio 4 (facoltativo): ricevi le statistiche di addestramento

Per visualizzare i risultati dell'addestramento del modello, puoi utilizzare la funzione ML.TRAINING_INFO oppure visualizzare le statistiche nella console Google Cloud. In questo tutorial utilizzerai la console Google Cloud.

Un algoritmo di machine learning crea un modello esaminando molti esempi e provando a trovare un modello che riduca al minimo la perdita. Questo processo è chiamato minimizzazione del rischio empirico.

Per visualizzare le statistiche di addestramento del modello generate quando hai eseguito la query CREATE MODEL:

  1. Nel pannello di navigazione della console Google Cloud, nella sezione Risorse, espandi [PROJECT_ID] > bqml_tutorial, quindi fai clic su my_explicit_mf_model.

  2. Fai clic sulla scheda Addestramento, quindi su Tabella. I risultati dovrebbero avere il seguente aspetto:

    Output ML.TRAINING_INFO.

    La colonna Addestramento Data Loss rappresenta la metrica di perdita calcolata dopo che il modello è stato addestrato sul set di dati di addestramento. Poiché hai eseguito la fattorizzazione matriciale, questa colonna è l'errore quadratico medio. Per impostazione predefinita, i modelli di fattorizzazione matriciale non suddividono i dati, quindi la colonna Valutazione perdita dati non sarà presente a meno che non venga specificato un set di dati di holdout, perché la suddivisione dei dati può comportare la perdita di tutte le valutazioni per un utente o un articolo. Di conseguenza, il modello non avrà informazioni sui fattori latenti sugli utenti o sugli elementi mancanti.

    Per ulteriori dettagli sulla funzione ML.TRAINING_INFO, consulta il riferimento sulla sintassi di BigQuery ML.

Passaggio 5: valuta il modello

Dopo aver creato il modello, valuti le prestazioni del motore per suggerimenti utilizzando la funzione ML.EVALUATE. La funzione ML.EVALUATE valuta le valutazioni previste in base alle valutazioni effettive.

La query utilizzata per valutare il modello è la seguente:

#standardSQL
SELECT
  *
FROM
  ML.EVALUATE(MODEL `bqml_tutorial.my_explicit_mf_model`,
    (
    SELECT
      user_id,
      item_id,
      rating
     FROM
      `movielens.movielens_1m`))

Dettagli query

L'istruzione SELECT più in alto recupera le colonne dal modello.

La clausola FROM utilizza la funzione ML.EVALUATE nel tuo modello: bqml_tutorial.my_explicit_mf_model.

L'istruzione SELECT nidificata e la clausola FROM di questa query sono uguali a quelle nella query CREATE MODEL.

Puoi anche chiamare ML.EVALUATE senza fornire i dati di input. Utilizzerà le metriche di valutazione calcolate durante l'addestramento:

#standardSQL
SELECT
  *
FROM
  ML.EVALUATE(MODEL `bqml_tutorial.my_explicit_mf_model`)

Esegui la query ML.EVALUATE

Per eseguire la query ML.EVALUATE che valuta il modello:

  1. Nella console Google Cloud, fai clic sul pulsante Crea nuova query.

  2. Inserisci la seguente query GoogleSQL nell'area di testo Editor query.

    #standardSQL
    SELECT
    *
    FROM
    ML.EVALUATE(MODEL `bqml_tutorial.my_explicit_mf_model`,
      (
      SELECT
    user_id,
    item_id,
    rating
       FROM
    `movielens.movielens_1m`))
    
  3. (Facoltativo) Per impostare il luogo di elaborazione, fai clic su Altro > Impostazioni query. Per Località di elaborazione, scegli US. Questo passaggio è facoltativo perché la località di elaborazione viene rilevata automaticamente in base alla località del set di dati.

    Impostazioni delle query.

  4. Fai clic su Esegui.

  5. Quando la query è completa, fai clic sulla scheda Risultati sotto l'area di testo della query. I risultati dovrebbero avere il seguente aspetto:

    l'output ML.EVALUATE.

    Poiché hai eseguito una fattorizzazione esplicita a matrice, i risultati includono le seguenti colonne:

    • mean_absolute_error
    • mean_squared_error
    • mean_squared_log_error
    • median_absolute_error
    • r2_score
    • explained_variance

Una metrica importante nei risultati della valutazione è il punteggio R2. Il punteggio R2 è una misura statistica che determina se le previsioni di regressione lineare approfondiscono i dati effettivi. 0 indica che il modello non spiega nessuna della variabilità dei dati di risposta intorno alla media. 1 indica che il modello spiega tutta la variabilità dei dati di risposta intorno alla media.

Passaggio 6: utilizza il modello per prevedere le valutazioni e dare consigli

Trovare tutte le valutazioni degli elementi per un insieme di utenti

ML.RECOMMEND non deve accettare argomenti aggiuntivi oltre al modello, ma può includere una tabella facoltativa. Se la tabella di input ha una sola colonna che corrisponde al nome della colonna di input user o di input item, verranno riportate tutte le valutazioni degli elementi previste per ogni user e viceversa. Tieni presente che se tutti gli elementi users o items sono nella tabella di input, produrrà gli stessi risultati del passaggio di nessun argomento facoltativo a ML.RECOMMEND.

Di seguito è riportato un esempio di query per recuperare tutte le valutazioni dei film previste per 5 utenti:

#standardSQL
SELECT
  *
FROM
  ML.RECOMMEND(MODEL `bqml_tutorial.my_explicit_mf_model`,
    (
    SELECT
      user_id
    FROM
      `movielens.movielens_1m`
    LIMIT 5))

Dettagli query

L'istruzione SELECT più in alto recupera le colonne user, item e predicted_rating. Quest'ultima colonna viene generata dalla funzione ML.RECOMMEND. Quando utilizzi la funzione ML.RECOMMEND, il nome della colonna di output del modello è predicted_<rating_column_name>. Per i modelli di fattorizzazione matriciale espliciti, predicted_rating è il valore stimato di rating.

La funzione ML.RECOMMEND viene utilizzata per prevedere le valutazioni utilizzando il tuo modello: bqml_tutorial.my_explicit_mf_model.

L'istruzione SELECT nidificata di questa query seleziona solo la colonna user_id dalla tabella originale utilizzata per l'addestramento.

La clausola LIMIT LIMIT 5 filtra in modo casuale 5 user_id da inviare a ML.RECOMMEND.

Trovare le valutazioni per tutte le coppie utente-elemento

Ora che hai valutato il modello, il passaggio successivo è utilizzarlo per prevedere una valutazione. Puoi utilizzare il modello per prevedere le valutazioni di ogni combinazione di elementi utente nella seguente query:

#standardSQL
SELECT
  *
FROM
  ML.RECOMMEND(MODEL `bqml_tutorial.my_explicit_mf_model`)

Dettagli query

L'istruzione SELECT più in alto recupera le colonne user, item e predicted_rating. Quest'ultima colonna viene generata dalla funzione ML.RECOMMEND. Quando utilizzi la funzione ML.RECOMMEND, il nome della colonna di output del modello è predicted_<rating_column_name>. Per i modelli di fattorizzazione matriciale espliciti, predicted_rating è il valore stimato di rating.

La funzione ML.RECOMMEND viene utilizzata per prevedere le valutazioni utilizzando il tuo modello: bqml_tutorial.my_explicit_mf_model.

Un modo per salvare il risultato nella tabella è:

#standardSQL
CREATE OR REPLACE TABLE `bqml_tutorial.recommend_1m`
OPTIONS() AS
SELECT
  *
FROM
  ML.RECOMMEND(MODEL `bqml_tutorial.my_explicit_mf_model`)

Se si verifica un errore Query Exceeded Resource Limits per ML.RECOMMEND, riprova con un livello di fatturazione superiore. Nello strumento a riga di comando di BigQuery, può essere impostato utilizzando il flag --maximum_billing_tier.

Genera suggerimenti

Utilizzando la precedente query sui suggerimenti, possiamo ordinare i dati in base alla valutazione prevista e restituire gli elementi previsti principali per ciascun utente. La seguente query unisce item_ids con il movie_ids trovato nella tabella movielens.movie_titles caricata in precedenza e restituisce i primi 5 film consigliati per utente.

#standardSQL
SELECT
  user_id,
  ARRAY_AGG(STRUCT(movie_title, genre, predicted_rating)
ORDER BY predicted_rating DESC LIMIT 5)
FROM (
SELECT
  user_id,
  item_id,
  predicted_rating,
  movie_title,
  genre
FROM
  `bqml_tutorial.recommend_1m`
JOIN
  `movielens.movie_titles`
ON
  item_id = movie_id)
GROUP BY
  user_id

Dettagli query

L'istruzione SELECT interna esegue un join interno su item_id dalla tabella dei risultati del suggerimento e movie_id dalla tabella movielens.movie_titles. movielens.movie_titles non solo associa movie_id al titolo di un film, ma include anche i generi del film elencati dall'IMDB.

L'istruzione SELECT di primo livello aggrega i risultati dell'istruzione SELECT nidificata utilizzando GROUPS BY user_id per aggregare movie_title, genre, e predicted_rating in ordine decrescente, mantenendo solo i primi 5 film.

Esegui la query ML.RECOMMEND

Per eseguire la query ML.RECOMMEND che restituisce i primi 5 film consigliati per utente:

  1. Nella console Google Cloud, fai clic sul pulsante Crea nuova query.

  2. Inserisci la seguente query GoogleSQL nell'area di testo Editor query.

    #standardSQL
    CREATE OR REPLACE TABLE `bqml_tutorial.recommend_1m`
    OPTIONS() AS
    SELECT
    *
    FROM
    ML.RECOMMEND(MODEL `bqml_tutorial.my_explicit_mf_model`)
    
  3. Fai clic su Esegui.

    Al termine della query, nel pannello di navigazione verrà visualizzato (bqml_tutorial.recommend_1m). Poiché la query utilizza un'istruzione CREATE TABLE per creare una tabella, non vedi i risultati della query.

  4. Crea un'altra nuova query. Inserisci la seguente query GoogleSQL nell'area di testo Editor query una volta terminata l'esecuzione della query precedente.

    #standardSQL
    SELECT
     user_id,
     ARRAY_AGG(STRUCT(movie_title, genre, predicted_rating)
    ORDER BY predicted_rating DESC LIMIT 5)
    FROM (
    SELECT
     user_id,
     item_id,
     predicted_rating,
     movie_title,
     genre
    FROM
     `bqml_tutorial.recommend_1m`
    JOIN
     `movielens.movie_titles`
    ON
     item_id = movie_id)
    GROUP BY
     user_id
    
  5. (Facoltativo) Per impostare il luogo di elaborazione, fai clic su Altro > Impostazioni query. Per Località di elaborazione, scegli US. Questo passaggio è facoltativo perché la località di elaborazione viene rilevata automaticamente in base alla località del set di dati.

    Impostazioni delle query.

  6. Fai clic su Esegui.

  7. Quando la query è completa, fai clic sulla scheda Risultati sotto l'area di testo della query. I risultati dovrebbero avere il seguente aspetto:

    Output ML.RECOMMEND.

Poiché disponevamo di informazioni aggiuntive sui metadati di ogni movie_id oltre a un elemento INT64, possiamo visualizzare informazioni come il genere dei 5 film più consigliati per ogni utente. Se non disponi di una tabella equivalente di movietitles per i dati di addestramento, i risultati potrebbero non essere interpretabili come esseri umani, solo con ID o hash numerici.

Generi principali per fattore

Se vuoi sapere a quale genere potrebbe essere correlato ciascun fattore latente, puoi eseguire la seguente query:

#standardSQL
SELECT
  factor,
  ARRAY_AGG(STRUCT(feature, genre,
      weight)
  ORDER BY
    weight DESC
  LIMIT
    10) AS weights
FROM (
  SELECT
    * EXCEPT(factor_weights)
  FROM (
    SELECT
      *
    FROM (
      SELECT
        factor_weights,
        CAST(feature AS INT64) as feature
      FROM
        ML.WEIGHTS(model `bqml_tutorial.my_explicit_mf_model`)
      WHERE
        processed_input= 'item_id')
    JOIN
      `movielens.movie_titles`
    ON
      feature = movie_id) weights
  CROSS JOIN
    UNNEST(weights.factor_weights)
  ORDER BY
    feature,
    weight DESC)
GROUP BY
  factor

Dettagli query

L'istruzione SELECT più interna ottiene l'array di pesi item_id o di fattore film e poi lo unisce alla tabella movielens.movie_titles per ottenere il genere di ogni ID elemento.

Il cui risultato viene quindi CROSS JOINedificato con ogni array factor_weights il cui risultato è ORDER BY feature, weight DESC.

Infine, l'istruzione SELECT di primo livello aggrega i risultati della sua dichiarazione interna in base a factor e crea un array per ogni fattore ordinato in base alla ponderazione di ogni genere.

Eseguire la query

Per eseguire la query precedente che restituisce i 10 generi di film principali per fattore:

  1. Nella console Google Cloud, fai clic sul pulsante Crea nuova query.

  2. Inserisci la seguente query GoogleSQL nell'area di testo Editor query.

#standardSQL
SELECT
  factor,
  ARRAY_AGG(STRUCT(feature, genre,
      weight)
  ORDER BY
    weight DESC
  LIMIT
    10) AS weights
FROM (
  SELECT
    * EXCEPT(factor_weights)
  FROM (
    SELECT
      *
    FROM (
      SELECT
        factor_weights,
        CAST(feature AS INT64) as feature
      FROM
        ML.WEIGHTS(model `bqml_tutorial.my_explicit_mf_model`)
      WHERE
        processed_input= 'item_id')
    JOIN
      `movielens.movie_titles`
    ON
      feature = movie_id) weights
  CROSS JOIN
    UNNEST(weights.factor_weights)
  ORDER BY
    feature,
    weight DESC)
GROUP BY
  factor
  1. (Facoltativo) Per impostare il luogo di elaborazione, fai clic su Altro > Impostazioni query. Per Località di elaborazione, scegli US. Questo passaggio è facoltativo perché la località di elaborazione viene rilevata automaticamente in base alla località del set di dati.

    Impostazioni delle query.

  2. Fai clic su Esegui.

  3. Quando la query è completa, fai clic sulla scheda Risultati sotto l'area di testo della query. I risultati dovrebbero avere il seguente aspetto:

    Analisi del peso.

Esegui la pulizia

Per evitare che al tuo Account Google Cloud vengano addebitati costi relativi alle risorse utilizzate in questo tutorial, elimina il progetto che contiene le risorse oppure mantieni il progetto ed elimina le singole risorse.

  • Puoi eliminare il progetto che hai creato.
  • In alternativa, puoi mantenere il progetto ed eliminare il set di dati.

Elimina il set di dati

L'eliminazione del progetto rimuove tutti i set di dati e tutte le tabelle nel progetto. Se preferisci riutilizzare il progetto, puoi eliminare il set di dati che hai creato in questo tutorial:

  1. Se necessario, apri la pagina BigQuery nella console Google Cloud.

    Vai alla pagina BigQuery

  2. Nella barra di navigazione, fai clic sul set di dati bqml_tutorial che hai creato.

  3. Fai clic su Elimina set di dati sul lato destro della finestra. Questa azione elimina il set di dati, la tabella e tutti i dati.

  4. Nella finestra di dialogo Elimina set di dati, conferma il comando di eliminazione digitando il nome del set di dati (bqml_tutorial), quindi fai clic su Elimina.

Elimina il progetto

Per eliminare il progetto:

  1. Nella console Google Cloud, vai alla pagina Gestisci risorse.

    Vai a Gestisci risorse

  2. Nell'elenco dei progetti, seleziona il progetto che vuoi eliminare, quindi fai clic su Elimina.
  3. Nella finestra di dialogo, digita l'ID del progetto e fai clic su Chiudi per eliminare il progetto.

Passaggi successivi