Utilizzare il connettore BigQuery con Dataproc Serverless per Spark

Utilizza spark-bigquery-connector con Apache Spark per leggere e scrivere dati da e in BigQuery. Questo tutorial illustra un'applicazione PySpark che utilizza spark-bigquery-connector.

Utilizzare il connettore BigQuery con il carico di lavoro

Consulta Dataproc Serverless for Spark runtime release per determinare la versione del connettore BigQuery installata nella versione del runtime del carico di lavoro batch. Se il connettore non è presente nell'elenco, consulta la sezione successiva per istruzioni su come renderlo disponibile per le applicazioni.

Utilizzare il connettore con la versione del runtime 2.0 di Spark

Il connettore BigQuery non è installato nella versione 2.0 del runtime Spark. Quando utilizzi Spark versione 2.0 del runtime, puoi rendere disponibile il connettore per la tua applicazione in uno dei seguenti modi:

Utilizza il parametro jars per puntare a un file jar del connettore quando invii il carico di lavoro batch Dataproc Serverless per Spark L'esempio seguente specifica un file jar del connettore (consulta il repository GoogleCloudDataproc/spark-bigquery-connector su GitHub per un elenco dei file jar del connettore disponibili).
- Esempio di Google Cloud CLI:
```
gcloud dataproc batches submit pyspark \
    --region=region \
    --jars=gs://spark-lib/bigquery/spark-bigquery-with-dependencies_2.13-version.jar \
    ... other args
```
Includi il file jar del connettore nell'applicazione Spark come dipendenza (consulta Compilazione rispetto al connettore)

Calcolare i costi

Questo tutorial utilizza i componenti fatturabili di Google Cloud, tra cui:

Dataproc Serverless
BigQuery
Cloud Storage

Utilizza il Calcolatore prezzi per generare una stima dei costi in base all'utilizzo previsto. I nuovi utenti di Cloud Platform potrebbero essere idonei per una prova gratuita.

I/O di BigQuery

Questo esempio legge i dati da BigQuery in un DataFrame Spark per eseguire un conteggio di parole utilizzando l'API standard per origine dati.

Il connettore scrive l'output del conteggio parole in BigQuery in questo modo:

Buffering dei dati in file temporanei nel bucket Cloud Storage
Copia dei dati in un'unica operazione dal bucket Cloud Storage a BigQuery
Eliminazione dei file temporanei in Cloud Storage al termine dell'operazione di caricamento di BigQuery (anche i file temporanei vengono eliminati al termine dell'applicazione Spark). Se l'eliminazione non va a buon fine, dovrai eliminare tutti i file Cloud Storage temporanei indesiderati, che in genere si trovano in gs://your-bucket/.spark-bigquery-jobid-UUID.

Configura la fatturazione

Per impostazione predefinita, al progetto associato alle credenziali o all'account di servizio viene addebitato l'utilizzo dell'API. Per fatturare un progetto diverso, imposta la seguente configurazione: spark.conf.set("parentProject", "<BILLED-GCP-PROJECT>").

Può anche essere aggiunto a un'operazione di lettura/scrittura, come segue: .option("parentProject", "<BILLED-GCP-PROJECT>").

invia un carico di lavoro batch per il conteggio parole PySpark

Crea wordcount_dataset con lo strumento a riga di comando bq in un terminale locale o in Cloud Shell.
```
bq mk wordcount_dataset
```
Crea un bucket Cloud Storage con lo strumento a riga di comando gsutil" in un terminale locale o in Cloud Shell.
```
gsutil mb gs://your-bucket
```

Esamina il codice.

#!/usr/bin/python
"""BigQuery I/O PySpark example."""
from pyspark.sql import SparkSession

spark = SparkSession \
  .builder \
  .appName('spark-bigquery-demo') \
  .getOrCreate()

# Use the Cloud Storage bucket for temporary BigQuery export data used
# by the connector.
bucket = "[your-bucket-name]"
spark.conf.set('temporaryGcsBucket', bucket)

# Load data from BigQuery.
words = spark.read.format('bigquery') \
  .option('table', 'bigquery-public-data:samples.shakespeare') \
  .load()
words.createOrReplaceTempView('words')

# Perform word count.
word_count = spark.sql(
    'SELECT word, SUM(word_count) AS word_count FROM words GROUP BY word')
word_count.show()
word_count.printSchema()

# Saving the data to BigQuery
word_count.write.format('bigquery') \
  .option('table', 'wordcount_dataset.wordcount_output') \
  .save()

Crea wordcount.py localmente in un editor di testo copiando il codice PySpark dall'elenco del codice PySpark. Sostituisci il segnaposto [your-bucket] con il nome del bucket Cloud Storage che hai creato.

Invia il carico di lavoro batch PySpark:

gcloud dataproc batches submit pyspark wordcount.py \
    --region=region \
    --deps-bucket=your-bucket

Esempio di output del terminale:

...
+---------+----------+
|     word|word_count|
+---------+----------+
|     XVII|         2|
|    spoil|        28|
|    Drink|         7|
|forgetful|         5|
|   Cannot|        46|
|    cures|        10|
|   harder|        13|
|  tresses|         3|
|      few|        62|
|  steel'd|         5|
| tripping|         7|
|   travel|        35|
|   ransom|        55|
|     hope|       366|
|       By|       816|
|     some|      1169|
|    those|       508|
|    still|       567|
|      art|       893|
|    feign|        10|
+---------+----------+
only showing top 20 rows

root
 |-- word: string (nullable = false)
 |-- word_count: long (nullable = true)

Per visualizzare l'anteprima della tabella di output nella console Google Cloud, apri la pagina BigQuery del tuo progetto, seleziona la tabella wordcount_output e fai clic su Anteprima.