Utilizzare BigQuery ML per dare consigli in base alle valutazioni dei film

---

Nota: i modelli di fattorizzazione matriciale sono disponibili solo per i clienti basati sulla capacità o per i clienti con prenotazioni.

Questo tutorial introduce gli analisti di dati al modello di fattorizzazione matriciale in BigQuery ML. BigQuery ML consente agli utenti di creare Eseguire modelli di machine learning in BigQuery utilizzando query SQL. L'obiettivo è democratizzare il machine learning consentendo ai professionisti SQL di creare modelli usando gli strumenti esistenti e per aumentare la velocità di sviluppo eliminando per lo spostamento dei dati.

In questo tutorial imparerai a creare un modello a partire da un feedback esplicito utilizzando il set di dati movielens1m per fornire consigli a partire da un ID film e un ID utente

Il set di dati Movielens contiene le valutazioni su una scala da 1 a 5 assegnate dagli utenti ai film, insieme ai metadati del film, come il genere.

Obiettivi

In questo tutorial utilizzi:

• BigQuery ML per creare un modello di suggerimenti espliciti utilizzando Istruzione CREATE MODEL
• La funzione ML.EVALUATE per valutare i modelli ML
• La funzione ML.WEIGHTS per ispezionare i pesi dei fattori latenti generati durante l'addestramento.
• La funzione ML.RECOMMEND per produrre consigli per un utente.

Costi

Questo tutorial utilizza componenti fatturabili di Google Cloud, tra cui:

• BigQuery
• BigQuery ML

Per ulteriori informazioni sui costi di BigQuery, consulta Prezzi di BigQuery.

Per ulteriori informazioni sui costi di BigQuery ML, consulta Prezzi di BigQuery ML.

Prima di iniziare

1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

3. Make sure that billing is enabled for your Google Cloud project.

4. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

   Go to project selector

5. Make sure that billing is enabled for your Google Cloud project.

6. BigQuery viene abilitato automaticamente nei nuovi progetti. Per attivare BigQuery in un progetto preesistente, vai a

   Enable the BigQuery API.

   Enable the API

Passaggio 1: crea il set di dati

Crea un set di dati BigQuery per archiviare il tuo modello ML:

1. Nella console Google Cloud, vai alla pagina BigQuery.

   Vai alla pagina BigQuery

2. Nel riquadro Explorer, fai clic sul nome del tuo progetto.

3. Fai clic su Visualizza azioni > Crea il set di dati.

   

4. Nella pagina Crea set di dati, segui questi passaggi:

   • In ID set di dati, inserisci bqml_tutorial.

   • Per Tipo di località, seleziona Più regioni e poi Stati Uniti (più regioni negli Stati Uniti).

     I set di dati pubblici sono archiviati nella US multiregione. Per semplicità, per archiviare il set di dati nella stessa posizione.

   • Lascia invariate le restanti impostazioni predefinite e fai clic su Crea il set di dati.

     

Passaggio 2: carica il set di dati MovieLens in BigQuery

Di seguito sono riportati i passaggi per caricare il set di dati da 1 milione di Movielens BigQuery utilizzando strumenti a riga di comando di BigQuery. Verrà creato un set di dati denominato movielens e al suo interno verranno archiviate le tabelle movielens pertinenti.

curl -O 'http://files.grouplens.org/datasets/movielens/ml-1m.zip'
unzip ml-1m.zip
bq mk --dataset movielens
sed 's/::/,/g' ml-1m/ratings.dat > ratings.csv
bq load --source_format=CSV movielens.movielens_1m ratings.csv \
  user_id:INT64,item_id:INT64,rating:FLOAT64,timestamp:TIMESTAMP

Poiché i titoli dei film contengono due punti, virgole e barre, dobbiamo utilizzare un delimitatore diverso. Per caricare i titoli dei film, deve essere utilizzata una variante leggermente diversa degli ultimi due comandi.

sed 's/::/@/g' ml-1m/movies.dat > movie_titles.csv
bq load --source_format=CSV --field_delimiter=@ \
 movielens.movie_titles movie_titles.csv \
 movie_id:INT64,movie_title:STRING,genre:STRING

Passaggio 3: crea il modello per i suggerimenti espliciti

A questo punto, creerai un modello per i consigli espliciti utilizzando l'esempio di Movielens caricata nel passaggio precedente. La seguente query GoogleSQL viene usato per creare il modello che sarà usato per prevedere una valutazione per ogni coppia elemento-utente.

#standardSQL
CREATE OR REPLACE MODEL `bqml_tutorial.my_explicit_mf_model`
OPTIONS
  (model_type='matrix_factorization',
   user_col='user_id',
   item_col='item_id',
   l2_reg=9.83,
   num_factors=34) AS
SELECT
  user_id,
  item_id,
  rating
FROM `movielens.movielens_1m`

Oltre a creare il modello, il comando CREATE MODEL addestra il modello creato.

Dettagli query

La clausola CREATE MODEL viene utilizzata per creare e addestrare il modello denominato bqml_tutorial.my_explicit_mf_model.

Clausola OPTIONS(model_type='matrix_factorization', user_col='user_id', ...) indica che stai creando una fattorizzazione matriciale un modello di machine learning. Per impostazione predefinita, viene creato un modello di fattorizzazione matriciale esplicito, a meno che non sia specificato feedback_type='IMPLICIT'. Un esempio di come creare un modello di fattorizzazione matriciale implicita verrà spiegato in Utilizzare BigQuery ML per fornire consigli per i feedback impliciti.

L'istruzione SELECT di questa query utilizza le seguenti colonne per generare consigli.

• user_id: l'ID utente (INT64).
• item_id: l'ID del filmato (INT64).
• rating: la valutazione esplicita da 1 a 5 assegnata dal user_id al item_id (FLOAT64).

La clausola FROM, movielens.movielens_1m, indica che stai eseguendo una query sulla tabella movielens_1m nel set di dati movielens. Questo set di dati si trova nel tuo progetto BigQuery se hai seguito le istruzioni del passaggio 2.

Esegui la query CREATE MODEL

Per eseguire la query CREATE MODEL in modo da creare e addestrare il modello:

1. Nella console Google Cloud, fai clic sul pulsante Crea nuova query.

2. Inserisci la seguente query GoogleSQL nell'area di testo Editor query.

#standardSQL
CREATE OR REPLACE MODEL `bqml_tutorial.my_explicit_mf_model`
OPTIONS
  (model_type='matrix_factorization',
   user_col='user_id',
   item_col='item_id',
   l2_reg=9.83,
   num_factors=34) AS
SELECT
  user_id,
  item_id,
  rating
FROM `movielens.movielens_1m`

1. Fai clic su Esegui.

   Il completamento della query richiede circa 10 minuti, dopodiché il tuo modello (my_explicit_mf_model) viene visualizzato nel pannello di navigazione della console Google Cloud. Poiché utilizza un'istruzione CREATE MODEL per creare un modello, non vedrai i risultati della query.

(Facoltativo) Passaggio quattro: ottieni le statistiche di addestramento

Per visualizzare i risultati dell'addestramento del modello, puoi utilizzare la funzione ML.TRAINING_INFO o visualizzare le statistiche nella console Google Cloud. In questo usi la console Google Cloud.

Un algoritmo di machine learning crea un modello esaminando molti esempi e tentando di trovare un modello che minimizzi la perdita. Questo processo è chiamato minimizzazione empirica del rischio.

Per visualizzare le statistiche di addestramento del modello generate durante l'esecuzione della queryCREATE MODEL:

1. Nel pannello di navigazione della console Google Cloud, nella sezione Risorse, espandi [PROJECT_ID] > bqml_tutorial e poi fai clic su my_explicit_mf_model.

2. Fai clic sulla scheda Addestramento e quindi su Tabella. I risultati dovrebbero essere simili ai seguenti:

   

   La colonna Perdita di dati di addestramento rappresenta la metrica relativa alla perdita calcolata dopo l'addestramento del modello sul set di dati di addestramento. Dato che hai eseguito fattorizzazione matriciale, questa colonna rappresenta l'errore quadratico medio. Per impostazione predefinita, i modelli di fattorizzazione della matrice non suddividono i dati, pertanto la colonna Perdita dati di valutazione non sarà presente a meno che non venga specificato un set di dati di controllo, in quanto la suddivisione dei dati potrebbe comportare la perdita di tutte le valutazioni per un utente o un articolo. Di conseguenza, il modello non avrà informazioni sui fattori latenti su utenti o elementi mancanti.

   Per maggiori dettagli sulla funzione ML.TRAINING_INFO, consulta il riferimento alla sintassi di BigQuery ML.

Passaggio 5: valuta il modello

Dopo aver creato il modello, valuti le prestazioni del motore per suggerimenti utilizzando la funzione ML.EVALUATE. La funzione ML.EVALUATE valuta la previsione valutazioni rispetto alle valutazioni effettive.

La query utilizzata per valutare il modello è la seguente:

#standardSQL
SELECT
  *
FROM
  ML.EVALUATE(MODEL `bqml_tutorial.my_explicit_mf_model`,
    (
    SELECT
      user_id,
      item_id,
      rating
     FROM
      `movielens.movielens_1m`))

Dettagli query

L'istruzione SELECT più in alto recupera le colonne dal modello.

La clausola FROM utilizza ML.EVALUATE rispetto al tuo modello: bqml_tutorial.my_explicit_mf_model.

L'istruzione SELECT e la clausola FROM nidificate di questa query sono le stesse della query CREATE MODEL.

Puoi anche chiamare ML.EVALUATE senza fornire i dati di input. Utilizzerà le metriche di valutazione calcolate durante l'addestramento:

#standardSQL
SELECT
  *
FROM
  ML.EVALUATE(MODEL `bqml_tutorial.my_explicit_mf_model`)

Esegui la query ML.EVALUATE

Per eseguire la query ML.EVALUATE che valuta il modello:

1. Nella console Google Cloud, fai clic sul pulsante Crea nuova query.

2. Inserisci la seguente query GoogleSQL nell'area di testo Editor query.

   #standardSQL
   SELECT
   *
   FROM
   ML.EVALUATE(MODEL `bqml_tutorial.my_explicit_mf_model`,
     (
     SELECT
   user_id,
   item_id,
   rating
      FROM
   `movielens.movielens_1m`))

3. (Facoltativo) Per impostare il luogo di elaborazione, fai clic su Altro > Impostazioni query. In Località di elaborazione, scegli US. Questo passaggio è facoltativo perché la località di elaborazione viene rilevata automaticamente in base alla posizione del set di dati.

   

4. Fai clic su Esegui.

5. Una volta completata la query, fai clic sulla scheda Risultati sotto il testo della query. in ogni area. I risultati dovrebbero essere simili ai seguenti:

   

   Poiché è stata eseguita una fattorizzazione matriciale esplicita, i risultati includono quanto segue colonne:

   • mean_absolute_error
   • mean_squared_error
   • mean_squared_log_error
   • median_absolute_error
   • r2_score
   • explained_variance

Una metrica importante nei risultati della valutazione è il punteggio R². Il coefficiente R² è una misura statistica che determina se le previsioni della regressione lineare si avvicinano ai dati effettivi. 0 indica che il modello non spiega nessuna delle variabilità dei dati di risposta attorno alla media. 1 indica che il modello spiega tutte le variabilità dei dati di risposta la media.

Passaggio sei: utilizza il modello per prevedere le valutazioni e dare consigli

Trovare tutte le valutazioni degli articoli per un insieme di utenti

ML.RECOMMEND non deve accettare altri argomenti oltre al modello, ma può includere una tabella facoltativa. Se la tabella di input ha una sola colonna che corrisponde al nome della colonna user o item di input, verranno visualizzate tutte le valutazioni degli articoli previste per ogni user e viceversa. Nota che se tutti gli elementi users o items sono nella tabella di input, restituirà gli stessi risultati della trasmissione di nessun argomento facoltativo a ML.RECOMMEND.

Di seguito è riportato un esempio di query per recuperare tutti i film previsti valutazioni per 5 utenti:

#standardSQL
SELECT
  *
FROM
  ML.RECOMMEND(MODEL `bqml_tutorial.my_explicit_mf_model`,
    (
    SELECT
      user_id
    FROM
      `movielens.movielens_1m`
    LIMIT 5))

Dettagli query

L'istruzione SELECT più in alto recupera le colonne user, item e predicted_rating. Questa ultima colonna viene generata dalla funzione ML.RECOMMEND. Quando utilizzi il ML.RECOMMEND, il nome della colonna di output per il modello è predicted_<rating_column_name>. Per i modelli di fattorizzazione matriciale esplicita, predicted_rating è il valore stimato di rating.

La ML.RECOMMEND viene utilizzata per prevedere le valutazioni utilizzando il tuo modello: bqml_tutorial.my_explicit_mf_model.

L'istruzione SELECT nidificata di questa query seleziona solo la colonna user_id dalla tabella originale utilizzata per l'addestramento.

La clausola LIMIT, LIMIT 5, filtrerà in modo casuale 5 user_id da inviare a ML.RECOMMEND.

Trovare le valutazioni per tutte le coppie utente-elemento

Ora che hai valutato il modello, il passaggio successivo è utilizzarlo per prevedere una valutazione. Utilizzi il tuo modello per prevedere le valutazioni di ogni elemento utente nella seguente query:

#standardSQL
SELECT
  *
FROM
  ML.RECOMMEND(MODEL `bqml_tutorial.my_explicit_mf_model`)

Dettagli query

L'istruzione SELECT più in alto recupera le colonne user, item e predicted_rating. Quest'ultima colonna viene generata dalla funzione ML.RECOMMEND. Quando utilizzi il ML.RECOMMEND, il nome della colonna di output per il modello è predicted_<rating_column_name>. Per i modelli di fattorizzazione matriciale esplicita, predicted_rating è il valore stimato di rating.

La ML.RECOMMEND viene utilizzata per prevedere le valutazioni utilizzando il tuo modello: bqml_tutorial.my_explicit_mf_model.

Nota: questa query genera una valutazione prevista per ogni coppia utente-elemento. Come può essere un output piuttosto grande. È consigliabile che l'output sia salvate in una tabella che viene poi utilizzata in altre query a scopo di analisi.

Un modo per salvare il risultato nella tabella è:

#standardSQL
CREATE OR REPLACE TABLE `bqml_tutorial.recommend_1m`
OPTIONS() AS
SELECT
  *
FROM
  ML.RECOMMEND(MODEL `bqml_tutorial.my_explicit_mf_model`)

Se si verifica un errore Query Exceeded Resource Limits per ML.RECOMMEND, riprova con un livello di fatturazione superiore. Nello strumento a riga di comando BigQuery, questo valore può essere impostato utilizzando il flag --maximum_billing_tier.

Genera suggerimenti

Utilizzando la query sui suggerimenti precedente, possiamo ordinare i dati in base alla valutazione prevista e restituisce gli elementi previsti principali per ciascun utente. La seguente query unisce item_ids con movie_ids trovato nella tabella movielens.movie_titles caricata in precedenza e restituisce i 5 film consigliati più popolari per utente.

#standardSQL
SELECT
  user_id,
  ARRAY_AGG(STRUCT(movie_title, genre, predicted_rating)
ORDER BY predicted_rating DESC LIMIT 5)
FROM (
SELECT
  user_id,
  item_id,
  predicted_rating,
  movie_title,
  genre
FROM
  `bqml_tutorial.recommend_1m`
JOIN
  `movielens.movie_titles`
ON
  item_id = movie_id)
GROUP BY
  user_id

Dettagli query

L'istruzione SELECT interna esegue un join interno su item_id della tabella dei risultati dei consigli e su movie_id della tabella movielens.movie_titles. movielens.movie_titles non solo mappa movie_id al nome di un film, include anche i generi del film elencati da IMDB.

L'istruzione SELECT di primo livello aggrega i risultati dell'istruzione SELECT nidificata utilizzando GROUPS BY user_id per aggregare movie_title, genre, e predicted_rating in ordine decrescente e conserva solo i 5 film migliori.

Esegui la query ML.RECOMMEND

Per eseguire la query ML.RECOMMEND che restituisce i 5 film consigliati più popolari per utente:

1. Nella console Google Cloud, fai clic sul pulsante Crea nuova query.

2. Inserisci la seguente query GoogleSQL nell'area di testo Editor query.

   #standardSQL
   CREATE OR REPLACE TABLE `bqml_tutorial.recommend_1m`
   OPTIONS() AS
   SELECT
   *
   FROM
   ML.RECOMMEND(MODEL `bqml_tutorial.my_explicit_mf_model`)

3. Fai clic su Esegui.

   Al termine della query, (bqml_tutorial.recommend_1m) nel pannello di navigazione. Poiché la query utilizza un'istruzione CREATE TABLE per creare una tabella, non vengono visualizzati i risultati della query.

4. Crea un'altra nuova query. Inserisci la seguente query GoogleSQL nell'area di testo Editor di query al termine dell'esecuzione della query precedente.

   #standardSQL
   SELECT
    user_id,
    ARRAY_AGG(STRUCT(movie_title, genre, predicted_rating)
   ORDER BY predicted_rating DESC LIMIT 5)
   FROM (
   SELECT
    user_id,
    item_id,
    predicted_rating,
    movie_title,
    genre
   FROM
    `bqml_tutorial.recommend_1m`
   JOIN
    `movielens.movie_titles`
   ON
    item_id = movie_id)
   GROUP BY
    user_id

5. (Facoltativo) Per impostare il luogo di elaborazione, fai clic su Altro > Impostazioni query. Per Località di elaborazione, scegli US. Questo passaggio è facoltativo perché di elaborazione viene rilevata automaticamente in base alla località del set di dati.

   

6. Fai clic su Esegui.

7. Una volta completata la query, fai clic sulla scheda Risultati sotto l'area di testo della query. I risultati dovrebbero essere simili ai seguenti:

   

Poiché avevamo informazioni aggiuntive sui metadati per ogni movie_id oltre a INT64, possiamo visualizzare informazioni come il genere dei 5 film più consigliati per ogni utente. Se non hai una tabella movietitles equivalente per l'addestramento dati, i risultati potrebbero non essere interpretabili come umani con solo ID numerici o hash.

Generi più ascoltati per fattore

Se vuoi sapere a quale genere è correlato ogni fattore latente, puoi eseguire questa query:

#standardSQL
SELECT
  factor,
  ARRAY_AGG(STRUCT(feature, genre,
      weight)
  ORDER BY
    weight DESC
  LIMIT
    10) AS weights
FROM (
  SELECT
    * EXCEPT(factor_weights)
  FROM (
    SELECT
      *
    FROM (
      SELECT
        factor_weights,
        CAST(feature AS INT64) as feature
      FROM
        ML.WEIGHTS(model `bqml_tutorial.my_explicit_mf_model`)
      WHERE
        processed_input= 'item_id')
    JOIN
      `movielens.movie_titles`
    ON
      feature = movie_id) weights
  CROSS JOIN
    UNNEST(weights.factor_weights)
  ORDER BY
    feature,
    weight DESC)
GROUP BY
  factor

Dettagli query

L'istruzione SELECT più interna recupera l'array dei pesi del fattore item_id o del film e poi lo unisce alla tabella movielens.movie_titles per ottenere il genere di ogni ID elemento.

Il risultato del quale viene quindi CROSS JOINeseguito con ogni array factor_weights il cui risultato è allora ORDER BY feature, weight DESC.

Infine, l'istruzione SELECT di primo livello aggrega i risultati dal suo dell'istruzione factor e crea un array per ogni fattore ordinato in base al peso di ogni genere.

Esegui la query

Per eseguire la query precedente che restituisce i primi 10 generi di film per fattore:

1. Nella console Google Cloud, fai clic sul pulsante Crea nuova query.

2. Inserisci la seguente query GoogleSQL nell'area di testo Editor query.

#standardSQL
SELECT
  factor,
  ARRAY_AGG(STRUCT(feature, genre,
      weight)
  ORDER BY
    weight DESC
  LIMIT
    10) AS weights
FROM (
  SELECT
    * EXCEPT(factor_weights)
  FROM (
    SELECT
      *
    FROM (
      SELECT
        factor_weights,
        CAST(feature AS INT64) as feature
      FROM
        ML.WEIGHTS(model `bqml_tutorial.my_explicit_mf_model`)
      WHERE
        processed_input= 'item_id')
    JOIN
      `movielens.movie_titles`
    ON
      feature = movie_id) weights
  CROSS JOIN
    UNNEST(weights.factor_weights)
  ORDER BY
    feature,
    weight DESC)
GROUP BY
  factor

1. (Facoltativo) Per impostare il luogo di elaborazione, fai clic su Altro > Impostazioni query. In Località di elaborazione, scegli US. Questo passaggio è facoltativo perché la località di elaborazione viene rilevata automaticamente in base alla posizione del set di dati.

   

2. Fai clic su Esegui.

3. Una volta completata la query, fai clic sulla scheda Risultati sotto il testo della query. in ogni area. I risultati dovrebbero essere simili ai seguenti:

   

Esegui la pulizia

Per evitare che al tuo account Google Cloud vengano addebitati costi relativi alle risorse utilizzate in questo tutorial, elimina il progetto che contiene le risorse oppure mantieni il progetto ed elimina le singole risorse.

• Puoi eliminare il progetto che hai creato.
• In alternativa, puoi conservare il progetto ed eliminare il set di dati.

Elimina il set di dati

L'eliminazione del progetto rimuove tutti i set di dati e tutte le tabelle nel progetto. Se se preferisci riutilizzare il progetto, puoi eliminare il set di dati creato tutorial:

1. Se necessario, apri la pagina BigQuery nella console Google Cloud.

   Vai alla pagina di BigQuery

2. Nel menu di navigazione, fai clic sul set di dati bqml_tutorial che hai creato.

3. Fai clic su Elimina set di dati sul lato destro della finestra. Questa azione elimina il set di dati, la tabella e tutti i dati.

4. Nella finestra di dialogo Elimina set di dati, conferma il comando di eliminazione digitando il nome del set di dati (bqml_tutorial) e fai clic su Elimina.

Elimina il progetto

Per eliminare il progetto:

Attenzione: l'eliminazione di un progetto ha i seguenti effetti:

• L'intero contenuto del progetto viene eliminato. Se hai utilizzato un progetto esistente per le attività descritte in questo documento, quando lo elimini elimini anche tutto il lavoro svolto nel progetto.
• Gli ID progetto personalizzati non sono più disponibili. Quando hai creato questo progetto, potresti aver creato un ID progetto personalizzato che vuoi utilizzare in futuro. Per conservare gli URL che utilizzano l'ID progetto, ad esempio un appspot.com URL, elimina le risorse selezionate all'interno del progetto anziché eliminare l'intero progetto.

Se intendi esplorare più architetture, tutorial o guide rapide, il riuso dei progetti può aiutarti a non superare i limiti di quota.

1. In the Google Cloud console, go to the Manage resources page.

   Go to Manage resources

2. In the project list, select the project that you want to delete, and then click Delete.
3. In the dialog, type the project ID, and then click Shut down to delete the project.

Passaggi successivi

• Per saperne di più sul machine learning, consulta Machine Learning Crash Course.
• Per una panoramica di BigQuery ML, consulta Introduzione a BigQuery ML.
• Per saperne di più sulla console Google Cloud, consulta Utilizzo della console Google Cloud.