Menghubungkan ke Bucket Cloud Storage

Halaman ini memperkenalkan Cloud Storage sebagai opsi untuk menyimpan data machine learning dan output pelatihan, serta menjelaskan cara memberi Cloud TPU akses ke objek data di Cloud Storage.

Sebelum memulai

Anda memerlukan Akun Layanan Cloud TPU untuk mengakses bucket Cloud Storage.

  1. Buat Akun Layanan Cloud TPU untuk project Anda.

    gcloud beta services identity create --service tpu.googleapis.com --project $PROJECT_ID

    Perintah ini menampilkan Akun Layanan Cloud TPU dengan format berikut:

    service-PROJECT_NUMBER@cloud-tpu.iam.gserviceaccount.com
    
  2. Ikuti petunjuk yang ada di panduan memulai Cloud TPU atau dokumen Membuat dan menghapus TPU untuk mengonfigurasi project Google Cloud dan membuat resource VM dan TPU Cloud TPU.

Menulis data ke Cloud Storage

Konsol

  1. Buka halaman Cloud Storage di konsol Google Cloud.

    Buka halaman Cloud Storage

  2. Buat bucket baru, dengan menentukan opsi berikut:

    • Nama unik pilihan Anda.
    • Kelas penyimpanan default: Standard
    • Lokasi: us-central1

CLI

  1. Gunakan perintah gcloud storage buckets create untuk membuat bucket Cloud Storage:

    gcloud storage buckets create gs://bucket-name --location region

    dengan:

    • region adalah region tempat Anda membuat Cloud TPU. Untuk mengetahui informasi selengkapnya tentang region dan ketersediaan TPU, lihat Region dan zona TPU.

    • bucket-name adalah nama bucket yang ingin Anda buat.

  2. Gunakan perintah gcloud storage cp untuk menulis file ke bucket Cloud Storage:

    gcloud storage cp -r local-data-dir gs://bucket-name

    dengan local-data-dir adalah jalur lokal ke data Anda. Misalnya:$HOME/your-data

Memberikan akses Cloud TPU ke Cloud Storage

Anda harus memberikan akses baca dan tulis ke objek Cloud Storage kepada Cloud TPU. Untuk melakukannya, Anda harus memberikan akses yang diperlukan ke Akun Layanan Cloud TPU yang digunakan oleh Cloud TPU. Ikuti langkah-langkah berikut untuk menemukan Akun Layanan Cloud TPU dan memberikan akses yang diperlukan:

Memberi otorisasi Akun Layanan Cloud TPU

Menggunakan ACL terperinci untuk Cloud TPU (Direkomendasikan)

Jika Anda menyimpan data pelatihan di Cloud Storage, Akun Layanan Cloud TPU memerlukan izin baca dan tulis di bucket.

Konsol

  1. Buka halaman browser Cloud Storage untuk melihat bucket yang Anda miliki.

    Buka browser Cloud Storage

  2. Pilih bucket yang ACL-nya ingin Anda ubah.

  3. Pilih tab Permissions.

  4. Pilih Add untuk menambahkan izin baru dan ketik nama Akun Layanan lengkap di kotak edit New Principals.

  5. Jika membaca dari bucket ini, Anda harus memberikan otorisasi kepada Akun Layanan TPU untuk membaca dari resource. Lakukan hal ini dengan memberikan peran Storage Legacy > Storage Legacy Bucket Reader kepada Akun Layanan.

  6. Jika menulis ke bucket ini, Anda harus memberikan otorisasi ke Akun Layanan TPU untuk menulis ke resource. Lakukan hal ini dengan memberikan peran Storage Legacy > Storage Legacy Bucket Writer kepada Akun Layanan.

CLI

  1. Jika Anda membaca dari bucket ini, berikan izin baca untuk Akun Layanan Cloud TPU:

     gcloud storage buckets add-iam-policy-binding gs://bucket-name --member=serviceAccount:service-account --role=roles/storage.objectViewer
     

  2. Jika Anda menulis ke bucket ini, berikan izin tulis untuk Akun Layanan Cloud TPU:

     gcloud storage buckets add-iam-policy-binding gs://bucket-name --member=serviceAccount:service-account --role=roles/storage.objectCreator

Menggunakan izin IAM untuk Cloud TPU (Alternatif)

Jika ingin memberikan izin yang lebih luas, bukan memberikan akses ke setiap bucket secara eksplisit, Anda dapat memberikan peran Admin Storage Identity Access Management (IAM) ke Akun Layanan Cloud TPU.

  1. Buka IAM

  2. Klik tombol +Tambahkan untuk menambahkan akun utama ke project.

  3. Masukkan nama Akun Layanan Cloud TPU di kotak teks Prinsipal.

  4. Klik menu drop-down Roles.

  5. Aktifkan peran berikut:

    • Project > Viewer

    • Penyimpanan > Storage Admin

Cloud Storage FUSE

Dengan Cloud Storage FUSE, Anda dapat memasang dan mengakses bucket Cloud Storage sebagai sistem file lokal. Hal ini memungkinkan aplikasi membaca dan menulis objek di bucket Anda menggunakan semantik sistem file standar.

Lihat dokumentasi Cloud Storage FUSE untuk mengetahui detail tentang cara kerja Cloud Storage FUSE dan deskripsi tentang cara operasi Cloud Storage FUSE dipetakan ke operasi Cloud Storage. Anda dapat menemukan informasi tambahan tentang cara menggunakan Cloud Storage FUSE, seperti cara menginstal CLI gcsfuse dan memasang bucket di GitHub.

Langkah selanjutnya