Template SequenceFile Bigtable ke Cloud Storage

Template SequenceFile Bigtable ke Cloud Storage adalah pipeline yang membaca data dari tabel Bigtable dan menulis data ke bucket Cloud Storage dalam format SequenceFile. Anda dapat menggunakan template ini untuk menyalin data dari Bigtable ke Cloud Storage.

Persyaratan pipeline

  • Tabel Bigtable harus ada.
  • Bucket Cloud Storage output harus ada sebelum menjalankan pipeline.

Parameter template

Parameter Deskripsi
bigtableProject ID project Google Cloud dari instance Bigtable yang datanya ingin Anda baca.
bigtableInstanceId ID instance Bigtable yang berisi tabel.
bigtableTableId ID tabel Bigtable yang akan diekspor.
bigtableAppProfileId ID profil aplikasi Bigtable yang akan digunakan untuk ekspor. Jika Anda tidak menentukan profil aplikasi, Bigtable akan menggunakan profil aplikasi default instance.
destinationPath Jalur Cloud Storage tempat data ditulis. Misalnya, gs://mybucket/somefolder.
filenamePrefix Awalan nama file SequenceFile. Misalnya, output-.

Menjalankan template

Konsol

  1. Buka halaman Create job from template Dataflow.
    2. Buka Buat tugas dari template
  2. Di kolom Job name, masukkan nama pekerjaan yang unik.
  3. Opsional: Untuk Endpoint regional, pilih nilai dari menu drop-down. Region default-nya adalah us-central1.

    Untuk daftar region tempat Anda dapat menjalankan tugas Dataflow, lihat Lokasi Dataflow.

  4. Dari menu drop-down Dataflow template, pilih the Cloud Bigtable to SequenceFile Files on Cloud Storage template .
  5. Di kolom parameter yang disediakan, masukkan parameter value Anda.
  6. Klik Run job.

gcloud

Di shell atau terminal Anda, jalankan template:

gcloud dataflow jobs run JOB_NAME \
    --gcs-location gs://dataflow-templates-REGION_NAME/VERSION/Cloud_Bigtable_to_GCS_SequenceFile \
    --region REGION_NAME \
    --parameters \
bigtableProject=BIGTABLE_PROJECT_ID,\
bigtableInstanceId=INSTANCE_ID,\
bigtableTableId=TABLE_ID,\
bigtableAppProfileId=APPLICATION_PROFILE_ID,\
destinationPath=DESTINATION_PATH,\
filenamePrefix=FILENAME_PREFIX

Ganti kode berikut:

  • JOB_NAME: nama pekerjaan unik pilihan Anda
  • VERSION: versi template yang ingin Anda gunakan

    Anda dapat menggunakan nilai berikut:

  • REGION_NAME: region tempat Anda ingin men-deploy tugas Dataflow, misalnya us-central1
  • BIGTABLE_PROJECT_ID: ID project Google Cloud dari instance Bigtable yang datanya ingin Anda baca
  • INSTANCE_ID: ID instance Bigtable yang berisi tabel
  • TABLE_ID: ID tabel Bigtable yang akan diekspor
  • APPLICATION_PROFILE_ID: ID profil aplikasi Bigtable yang akan digunakan untuk ekspor
  • DESTINATION_PATH: jalur Cloud Storage tempat data ditulis, misalnya, gs://mybucket/somefolder
  • FILENAME_PREFIX: awalan nama file SequenceFile, misalnya, output-

API

Untuk menjalankan template menggunakan REST API, kirim permintaan HTTP POST. Untuk informasi selengkapnya tentang API dan cakupan otorisasinya, lihat projects.templates.launch.

POST https://dataflow.googleapis.com/v1b3/projects/PROJECT_ID/locations/LOCATION/templates:launch?gcsPath=gs://dataflow-templates-LOCATION/VERSION/Cloud_Bigtable_to_GCS_SequenceFile
{
   "jobName": "JOB_NAME",
   "parameters": {
       "bigtableProject": "BIGTABLE_PROJECT_ID",
       "bigtableInstanceId": "INSTANCE_ID",
       "bigtableTableId": "TABLE_ID",
       "bigtableAppProfileId": "APPLICATION_PROFILE_ID",
       "destinationPath": "DESTINATION_PATH",
       "filenamePrefix": "FILENAME_PREFIX",
   },
   "environment": { "zone": "us-central1-f" }
}

Ganti kode berikut:

  • PROJECT_ID: ID project Google Cloud tempat Anda ingin menjalankan tugas Dataflow
  • JOB_NAME: nama pekerjaan unik pilihan Anda
  • VERSION: versi template yang ingin Anda gunakan

    Anda dapat menggunakan nilai berikut:

  • LOCATION: region tempat Anda ingin men-deploy tugas Dataflow, misalnya us-central1
  • BIGTABLE_PROJECT_ID: ID project Google Cloud dari instance Bigtable yang datanya ingin Anda baca
  • INSTANCE_ID: ID instance Bigtable yang berisi tabel
  • TABLE_ID: ID tabel Bigtable yang akan diekspor
  • APPLICATION_PROFILE_ID: ID profil aplikasi Bigtable yang akan digunakan untuk ekspor
  • DESTINATION_PATH: jalur Cloud Storage tempat data ditulis, misalnya, gs://mybucket/somefolder
  • FILENAME_PREFIX: awalan nama file SequenceFile, misalnya, output-

Langkah selanjutnya