Utilizzare il connettore BigQuery con Dataproc Serverless per Spark

Utilizza spark-bigquery-connector con Apache Spark per leggere e scrivere dati da e in BigQuery. Questo tutorial mostra un'applicazione PySpark che utilizza spark-bigquery-connector.

Utilizzare il connettore BigQuery con il carico di lavoro

Consulta le release del runtime Dataproc Serverless per Spark per determinare la versione del connettore BigQuery installata nella versione del runtime del tuo carico di lavoro batch. Se il connettore non è presente nell'elenco, consulta la sezione successiva per istruzioni su come renderlo disponibile per le applicazioni.

Come utilizzare il connettore con la versione 2.0 del runtime Spark

Il connettore BigQuery non è installato nella versione 2.0 del runtime Spark. Quando utilizzi la versione 2.0 del runtime Spark, puoi rendere disponibile il connettore per la tua applicazione in uno dei seguenti modi:

  • Utilizza il parametro jars per fare riferimento a un file jar del connettore quando invii il tuo carico di lavoro batch di Dataproc Serverless per Spark. L'esempio seguente specifica un file jar del connettore (consulta il repository GoogleCloudDataproc/spark-bigquery-connector su GitHub per un elenco dei file jar del connettore disponibili).
    • Esempio di Google Cloud CLI: 
      gcloud dataproc batches submit pyspark \
    --region=region \
    --jars=gs://spark-lib/bigquery/spark-bigquery-with-dependencies_2.13-version.jar \
    ... other args
  • Includi il file jar del connettore nell'applicazione Spark come dipendenza (consulta Compilazione in base al connettore).

Calcolare i costi

Questo tutorial utilizza i componenti fatturabili di Google Cloud, tra cui:

  • Dataproc Serverless
  • BigQuery
  • Cloud Storage

Utilizza il Calcolatore prezzi per generare una stima dei costi in base all'utilizzo previsto. I nuovi utenti della piattaforma Cloud potrebbero essere idonei per una prova gratuita.

BigQuery I/O

Questo esempio legge i dati da BigQuery in un DataFrame Spark per eseguire il conteggio delle parole utilizzando l'API dell'origine dati standard.

Il connettore scrive l'output del conteggio parole in BigQuery come segue:

  1. Mettere in buffer i dati in file temporanei nel bucket Cloud Storage

  2. Copiare i dati in un'unica operazione dal bucket Cloud Storage in BigQuery

  3. Eliminazione dei file temporanei in Cloud Storage al termine dell'operazione di caricamento di BigQuery (i file temporanei vengono eliminati anche al termine dell'applicazione Spark). Se l'eliminazione non va a buon fine, dovrai eliminare eventuali file Cloud Storage temporanei indesiderati, che in genere vengono posizionati in gs://YOUR_BUCKET/.spark-bigquery-JOB_ID-UUID.

Configura la fatturazione

Per impostazione predefinita, al progetto associato alle credenziali o all'account di servizio viene addebitato l'utilizzo dell'API. Per fatturare un altro progetto, imposta la seguente configurazione: spark.conf.set("parentProject", "<BILLED-GCP-PROJECT>").

Puoi anche aggiungere un'operazione di lettura o scrittura, come segue: .option("parentProject", "<BILLED-GCP-PROJECT>").

Invia un carico di lavoro batch di conteggio parole PySpark

Esegui un carico di lavoro batch Spark che conteggia il numero di parole in un set di dati pubblico.

  1. Apri un terminale locale o Cloud Shell.
  2. Crea wordcount_dataset con lo strumento a riga di comando bq in un terminale locale o in Cloud Shell. 
    bq mk wordcount_dataset
  3. Crea un bucket Cloud Storage con Google Cloud CLI. 
    gcloud storage buckets create gs://YOUR_BUCKET
    Sostituisci YOUR_BUCKET con il nome del bucket Cloud Storage che hai creato.
  4. Crea il file wordcount.py in locale in un editor di testo copiando il seguente codice PySpark. 
    #!/usr/bin/python
"""BigQuery I/O PySpark example."""
from pyspark.sql import SparkSession

spark = SparkSession \
  .builder \
  .appName('spark-bigquery-demo') \
  .getOrCreate()

# Use the Cloud Storage bucket for temporary BigQuery export data used
# by the connector.
bucket = "YOUR_BUCKET"
spark.conf.set('temporaryGcsBucket', bucket)

# Load data from BigQuery.
words = spark.read.format('bigquery') \
  .option('table', 'bigquery-public-data:samples.shakespeare') \
  .load()
words.createOrReplaceTempView('words')

# Perform word count.
word_count = spark.sql(
    'SELECT word, SUM(word_count) AS word_count FROM words GROUP BY word')
word_count.show()
word_count.printSchema()

# Saving the data to BigQuery
word_count.write.format('bigquery') \
  .option('table', 'wordcount_dataset.wordcount_output') \
  .save()
  5. Invia il carico di lavoro batch PySpark: 
    gcloud dataproc batches submit pyspark wordcount.py \
    --region=REGION \
    --deps-bucket=YOUR_BUCKET
    Output del terminale di esempio: 
    ...
+---------+----------+
|     word|word_count|
+---------+----------+
|     XVII|         2|
|    spoil|        28|
|    Drink|         7|
|forgetful|         5|
|   Cannot|        46|
|    cures|        10|
|   harder|        13|
|  tresses|         3|
|      few|        62|
|  steel'd|         5|
| tripping|         7|
|   travel|        35|
|   ransom|        55|
|     hope|       366|
|       By|       816|
|     some|      1169|
|    those|       508|
|    still|       567|
|      art|       893|
|    feign|        10|
+---------+----------+
only showing top 20 rows

root
 |-- word: string (nullable = false)
 |-- word_count: long (nullable = true)

    Per visualizzare l'anteprima della tabella di output nella console Google Cloud, apri la pagina BigQuery del progetto, seleziona la tabella wordcount_output e poi fai clic su Anteprima.

Per ulteriori informazioni