Le modèle "Bigtable vers Cloud Storage SequenceFile" est un pipeline qui lit les données d'une table Bigtable et les écrit dans un bucket Cloud Storage au format SequenceFile. Vous pouvez utiliser ce modèle pour copier des données de Bigtable vers Cloud Storage.
Conditions requises pour ce pipeline
- La table Bigtable doit exister.
- Le bucket Cloud Storage de sortie doit exister avant l'exécution du pipeline.
Paramètres de modèle
Paramètres obligatoires
- bigtableProject : ID du projet Google Cloud contenant l'instance Bigtable dont vous souhaitez lire les données.
- bigtableInstanceId : ID de l'instance Bigtable qui contient la table.
- bigtableTableId : ID de la table Bigtable à exporter.
- destinationPath : chemin d'accès Cloud Storage où les données sont écrites. (par exemple : gs://votre-bucket/votre-chemin-d'accès).
- filenamePrefix : préfixe du nom de fichier SequenceFile. (par exemple : output-).
Paramètres facultatifs
- bigtableAppProfileId : ID du profil d'application Bigtable à utiliser pour l'exportation. Si vous ne spécifiez pas de profil d'application, Bigtable utilise le profil d'application par défaut de l'instance : https://cloud.google.com/bigtable/docs/app-profiles#default-app-profile.
- bigtableStartRow : la ligne à partir de laquelle démarrer l'exportation est définie par défaut sur la première ligne.
- bigtableStopRow : ligne sur laquelle arrêter l'exportation, définie par défaut sur la dernière ligne.
- bigtableMaxVersions : nombre maximal de versions de cellule. La valeur par défaut est 2147483647.
- bigtableFilter : chaîne de filtre. Voir : http://hbase.apache.org/book.html#thrift. La valeur par défaut est vide.
Exécuter le modèle
Console
- Accédez à la page Dataflow Créer un job à partir d'un modèle. Accéder à la page Créer un job à partir d'un modèle
- Dans le champ Nom du job, saisissez un nom de job unique.
- Facultatif : pour Point de terminaison régional, sélectionnez une valeur dans le menu déroulant. La région par défaut est
us-central1
.Pour obtenir la liste des régions dans lesquelles vous pouvez exécuter un job Dataflow, consultez la page Emplacements Dataflow.
- Dans le menu déroulant Modèle Dataflow, sélectionnez the Cloud Bigtable to SequenceFile Files on Cloud Storage template .
- Dans les champs fournis, saisissez vos valeurs de paramètres.
- Cliquez sur Run Job (Exécuter la tâche).
gcloud
Dans le shell ou le terminal, exécutez le modèle :
gcloud dataflow jobs run JOB_NAME \ --gcs-location gs://dataflow-templates-REGION_NAME/VERSION/Cloud_Bigtable_to_GCS_SequenceFile \ --region REGION_NAME \ --parameters \ bigtableProject=BIGTABLE_PROJECT_ID,\ bigtableInstanceId=INSTANCE_ID,\ bigtableTableId=TABLE_ID,\ bigtableAppProfileId=APPLICATION_PROFILE_ID,\ destinationPath=DESTINATION_PATH,\ filenamePrefix=FILENAME_PREFIX
Remplacez les éléments suivants :
JOB_NAME
: nom de job unique de votre choixVERSION
: version du modèle que vous souhaitez utiliserVous pouvez utiliser les valeurs suivantes :
latest
pour utiliser la dernière version du modèle, disponible dans le dossier parent non daté du bucket gs://dataflow-templates-REGION_NAME/latest/- Le nom de la version, par exemple
2023-09-12-00_RC00
, pour utiliser une version spécifique du modèle, qui est imbriqué dans le dossier parent daté respectif dans le bucket : gs://dataflow-templates-REGION_NAME/
REGION_NAME
: région dans laquelle vous souhaitez déployer votre job Dataflow, par exempleus-central1
BIGTABLE_PROJECT_ID
: ID du projet Google Cloud de l'instance Bigtable dont vous souhaitez lire les donnéesINSTANCE_ID
: ID de l'instance Bigtable qui contient la tableTABLE_ID
: ID de la table Bigtable à exporterAPPLICATION_PROFILE_ID
: ID du profil d'application Bigtable à utiliser pour l'exportationDESTINATION_PATH
: chemin d'accès à Cloud Storage où les données sont écrites, par exemple,gs://mybucket/somefolder
FILENAME_PREFIX
: préfixe du nom de fichier SequenceFile (par exemple,output-
)
API
Pour exécuter le modèle à l'aide de l'API REST, envoyez une requête HTTP POST. Pour en savoir plus sur l'API, ses autorisations et leurs champs d'application, consultez la section projects.templates.launch
.
POST https://dataflow.googleapis.com/v1b3/projects/PROJECT_ID/locations/LOCATION/templates:launch?gcsPath=gs://dataflow-templates-LOCATION/VERSION/Cloud_Bigtable_to_GCS_SequenceFile { "jobName": "JOB_NAME", "parameters": { "bigtableProject": "BIGTABLE_PROJECT_ID", "bigtableInstanceId": "INSTANCE_ID", "bigtableTableId": "TABLE_ID", "bigtableAppProfileId": "APPLICATION_PROFILE_ID", "destinationPath": "DESTINATION_PATH", "filenamePrefix": "FILENAME_PREFIX", }, "environment": { "zone": "us-central1-f" } }
Remplacez les éléments suivants :
PROJECT_ID
: ID du projet Google Cloud dans lequel vous souhaitez exécuter le job DataflowJOB_NAME
: nom de job unique de votre choixVERSION
: version du modèle que vous souhaitez utiliserVous pouvez utiliser les valeurs suivantes :
latest
pour utiliser la dernière version du modèle, disponible dans le dossier parent non daté du bucket gs://dataflow-templates-REGION_NAME/latest/- Le nom de la version, par exemple
2023-09-12-00_RC00
, pour utiliser une version spécifique du modèle, qui est imbriqué dans le dossier parent daté respectif dans le bucket : gs://dataflow-templates-REGION_NAME/
LOCATION
: région dans laquelle vous souhaitez déployer votre job Dataflow, par exempleus-central1
BIGTABLE_PROJECT_ID
: ID du projet Google Cloud de l'instance Bigtable dont vous souhaitez lire les donnéesINSTANCE_ID
: ID de l'instance Bigtable qui contient la tableTABLE_ID
: ID de la table Bigtable à exporterAPPLICATION_PROFILE_ID
: ID du profil d'application Bigtable à utiliser pour l'exportationDESTINATION_PATH
: chemin d'accès à Cloud Storage où les données sont écrites, par exemple,gs://mybucket/somefolder
FILENAME_PREFIX
: préfixe du nom de fichier SequenceFile (par exemple,output-
)
Étapes suivantes
- Apprenez-en plus sur les modèles Dataflow.
- Consultez la liste des modèles fournis par Google.