Modèle AstraDB vers BigQuery

Le modèle AstraDB vers BigQuery est un pipeline de traitement par lot qui lit les enregistrements depuis AstraDB et les écrit dans BigQuery.

Si la table de destination n'existe pas dans BigQuery, le pipeline crée une table avec les valeurs suivantes :

  • Le Dataset ID, hérité de l'espace de clés Cassandra.
  • Le Table ID, hérité de la table Cassandra.

Le schéma de la table de destination est déduit de la table Cassandra source.

  • List et Set sont mappés avec les champs BigQuery REPEATED.
  • Map est mappé avec les champs BigQuery RECORD.
  • Tous les autres types sont mappés avec les champs BigQuery des types correspondants.
  • Les types définis par l'utilisateur (UDT) et les types de données tuple Cassandra ne sont pas acceptés.

Conditions requises pour ce pipeline

  • Compte AstraDB avec un jeton

Paramètres de modèle

Paramètres obligatoires

  • astraToken : valeur du jeton ou ID de ressource du secret (exemple : AstraCS:abcdefghij).
  • astraDatabaseId : identifiant unique de la base de données (uuid) (exemple : cf7af129-d33a-498f-ad06-d97a6ee6eb7).
  • astraKeyspace : Nom de l'espace de clés Cassandra dans la base de données Astra.
  • astraTable : nom de la table dans la base de données Cassandra (exemple : my_table).

Paramètres facultatifs

  • astraQuery : requête pour filtrer les lignes au lieu de lire la table entière.
  • astraDatabaseRegion : si cette valeur n'est pas spécifiée, une valeur par défaut est choisie, ce qui est utile pour les bases de données multirégionales.
  • minTokenRangesCount : nombre minimal de divisions pour distribuer la requête.
  • outputTableSpec : Emplacement de la table BigQuery dans lequel écrire la sortie. La table doit être au format <project>:<dataset>.<table_name>. Le schéma de la table doit correspondre aux objets d'entrée.

Exécuter le modèle

Console

  1. Accédez à la page Dataflow Créer un job à partir d'un modèle.
    2. Accéder à la page Créer un job à partir d'un modèle
  2. Dans le champ Nom du job, saisissez un nom de job unique.
  3. Facultatif : pour Point de terminaison régional, sélectionnez une valeur dans le menu déroulant. La région par défaut est us-central1.

    Pour obtenir la liste des régions dans lesquelles vous pouvez exécuter un job Dataflow, consultez la page Emplacements Dataflow.

  4. Dans le menu déroulant Modèle Dataflow, sélectionnez the AstraDB to BigQuery template.
  5. Dans les champs fournis, saisissez vos valeurs de paramètres.
  6. Cliquez sur Run Job (Exécuter la tâche).

gcloud

Dans le shell ou le terminal, exécutez le modèle :

gcloud dataflow flex-template run JOB_NAME \
    --template-file-gcs-location=gs://dataflow-templates-REGION_NAME/VERSION/flex/AstraDB_To_BigQuery \
    --project=PROJECT_ID \
    --region=REGION_NAME \
    --parameters \
       astraToken=ASTRA_TOKEN,\
       astraDatabaseId=ASTRA_DATABASE_ID,\
       astraKeyspace=ASTRA_KEYSPACE,\
       astraTable=ASTRA_TABLE,\

Remplacez les éléments suivants :

  • JOB_NAME : nom de job unique de votre choix
  • VERSION : version du modèle que vous souhaitez utiliser

    Vous pouvez utiliser les valeurs suivantes :

  • REGION_NAME : région dans laquelle vous souhaitez déployer votre job Dataflow, par exemple us-central1
  • ASTRA_TOKEN : jeton Astra
  • ASTRA_DATABASE_ID : identifiant de la base de données
  • ASTRA_KEYSPACE : espace de clés Cassandra
  • ASTRA_TABLE : table Cassandra

API

Pour exécuter le modèle à l'aide de l'API REST, envoyez une requête HTTP POST. Pour en savoir plus sur l'API, ses autorisations et leurs champs d'application, consultez la section projects.templates.launch.

POST https://dataflow.googleapis.com/v1b3/projects/PROJECT_ID/locations/LOCATION/flexTemplates:launch
{
   "launchParameter": {
     "jobName": "JOB_NAME",
     "parameters": {
       "astraToken": "ASTRA_TOKEN",
       "astraDatabaseId": "ASTRA_DATABASE_ID",
       "astraKeyspace": "ASTRA_KEYSPACE",
       "astraTable": "ASTRA_TABLE",
     },
     "containerSpecGcsPath": "gs://dataflow-templates-LOCATION/VERSION/flex/AstraDB_To_BigQuery",
     "environment": { "maxWorkers": "10" }
  }
}

Remplacez les éléments suivants :

  • PROJECT_ID : ID du projet Google Cloud dans lequel vous souhaitez exécuter le job Dataflow
  • JOB_NAME : nom de job unique de votre choix
  • VERSION : version du modèle que vous souhaitez utiliser

    Vous pouvez utiliser les valeurs suivantes :

  • LOCATION : région dans laquelle vous souhaitez déployer votre job Dataflow, par exemple us-central1
  • ASTRA_TOKEN : jeton Astra
  • ASTRA_DATABASE_ID : identifiant de la base de données
  • ASTRA_KEYSPACE : espace de clés Cassandra
  • ASTRA_TABLE : table Cassandra

Étapes suivantes