Menyiapkan lingkungan Cloud TPU

Sebelum dapat menggunakan resource Cloud TPU untuk melatih atau menjalankan inferensi pada model, Anda harus melakukan langkah-langkah penyiapan berikut:

Menyiapkan project Google Cloud

Anda harus memiliki akun dan project Google Cloud untuk menggunakan Cloud TPU.

  1. Di konsol Google Cloud, login ke Akun Google Anda atau daftar untuk mendapatkan akun baru.

  2. Menginstal Google Cloud CLI. Google Cloud CLI adalah antarmuka untuk mengakses dan mengelola resource dan layanan Google Cloud.

  3. Pilih atau buat project Google Cloud:

    Di konsol Google Cloud, pilih atau buat project Cloud dari pemilih project.

    Di Cloud Shell, tetapkan project ID Anda menggunakan gcloud CLI. Project ID adalah nama project Anda yang ditampilkan di konsol Google Cloud.

    $ gcloud config set project PROJECT-ID

  4. Pastikan penagihan telah diaktifkan untuk project Google Cloud Anda.

    Penyiapan penagihan diperlukan untuk semua penggunaan Google Cloud. Anda hanya akan ditagih setelah mulai menggunakan resource Google Cloud. Untuk mengetahui informasi selengkapnya, lihat dokumentasi Penagihan Cloud.

    Penagihan untuk semua penggunaan versi Cloud TPU mengikuti harga regional standar yang ditampilkan di halaman harga Cloud TPU.

Menyiapkan lingkungan untuk menggunakan Cloud TPU

Sebelum meminta Cloud TPU, Anda harus mengaktifkan Cloud TPU API dan memastikan bahwa Anda memiliki izin untuk mengelola akses di project dan membuat Cloud TPU. Sebaiknya Anda juga membuat akun layanan yang dikelola pengguna untuk dilampirkan ke TPU.

  1. Aktifkan Cloud TPU API dari konsol Google Cloud atau menggunakan gcloud CLI di Cloud Shell:

    gcloud

    $ gcloud services enable tpu.googleapis.com

    Konsol

    1. Di konsol Google Cloud, buka halaman Cloud TPU API.

    Buka halaman Cloud TPU API

    1. Klik Aktifkan.

  2. Pastikan Anda memiliki peran berikut di project:

    Ikuti petunjuk di bagian Melihat akses saat ini untuk melihat siapa yang memiliki akses ke project, folder, atau organisasi Anda. Untuk melihat akses Anda sendiri, di kolom Akun utama, cari baris yang berisi alamat email Anda. Jika alamat email Anda tidak ada di kolom tersebut, berarti Anda tidak memiliki peran apa pun. Di kolom Peran untuk baris yang berisi alamat email Anda, periksa apakah daftar peran menyertakan peran yang diperlukan.

    Jika Anda tidak memiliki peran yang diperlukan, berikan peran tersebut atau minta administrator untuk melakukannya.

  3. Buat agen layanan Cloud TPU:

    Agen layanan, jenis identitas layanan, adalah identitas layanan yang dikelola Google yang digunakan oleh layanan Cloud TPU untuk melakukan operasi di project Google Cloud Anda. Misalnya, agen layanan digunakan untuk membuat dan mengelola resource Cloud TPU.

      $ gcloud beta services identity create --service tpu.googleapis.com --project $PROJECT_ID

  4. Buat akun layanan TPU:

    Akun layanan berfungsi sebagai kredensial untuk VM TPU Anda. Peran yang dilampirkan ke akun layanan memberikan akses ke resource Google Cloud. Sebaiknya gunakan akun layanan yang dikelola pengguna, yang hanya memberikan izin yang diperlukan oleh VM TPU Anda. Saat menggunakan akun layanan yang dikelola pengguna, Anda harus menentukannya saat membuat VM TPU menggunakan flag --service-account.

    1. Ikuti petunjuk di Membuat akun layanan untuk membuat akun layanan yang dikelola pengguna.

    2. Ikuti petunjuk di Mengelola akses ke project, folder, dan organisasi untuk memberi akun layanan Anda akses ke layanan Google Cloud yang akan diakses TPU Anda. Peran berikut direkomendasikan agar TPU Anda dapat mengakses layanan Google Cloud yang biasa digunakan.

Bersiap untuk membuat Cloud TPU

Sebelum membuat Cloud TPU, Anda harus meminta kuota. Anda juga harus mempertimbangkan penggunaan resource dalam antrean, serta parameter yang ingin digunakan untuk mengonfigurasi TPU.

  1. Meminta kuota:

    Untuk membuat Cloud TPU, project Google Cloud Anda harus memiliki kuota untuk versi dan ukuran TPU yang ingin dibuat serta zona tempat Anda ingin membuatnya. Misalnya, jika ingin membuat TPU v4-8 di us-central2-b, Anda akan meminta kuota 8 core TPU v4 di us-central2-b. Untuk mengetahui informasi selengkapnya tentang zona tempat Cloud TPU tersedia, lihat Region dan zona TPU.

    Kuota dialokasikan secara berbeda bergantung pada versi TPU. Berbagai jenis kuota memiliki ekspektasi ketersediaan yang berbeda. Untuk mengetahui informasi selengkapnya tentang alokasi kuota, jenis kuota, dan cara meminta kuota, lihat Kuota.

  2. Tentukan apakah Anda ingin menggunakan resource dalam antrean.

    Membuat Cloud TPU sebagai resource yang diantrekan adalah praktik terbaik. Resource dalam antrean memungkinkan Anda menerima kapasitas setelah tersedia. Anda dapat menentukan waktu mulai dan waktu berakhir opsional untuk menentukan kapan permintaan harus diisi.

    Ada berbagai perintah gcloud CLI untuk menggunakan resource dalam antrean. Untuk informasi selengkapnya, lihat Panduan pengguna resource dalam antrean.

  3. Tentukan parameter pembuatan Cloud TPU:

    • Zone: Tetapkan flag --zone ke zona tempat Anda ingin membuat TPU. Anda harus memiliki kuota yang dialokasikan di zona ini. Untuk informasi selengkapnya, lihat Region dan zona TPU.

    • Konfigurasi TPU: Jika Anda tidak perlu menentukan topologi kustom, atau menggunakan TPU v2 atau v3, tetapkan tanda --accelerator-type ke vVERSION-TENSORCORES. Ganti VERSION dengan nomor versi TPU yang ingin Anda gunakan. Ganti TENSORCORES dengan jumlah TensorCore yang ingin Anda gunakan.

      Jika Anda ingin menyesuaikan topologi fisik TPU, gunakan flag --version dan --topology. Tetapkan flag --version ke versi TPU yang ingin Anda gunakan. Tetapkan flag --topology ke topologi yang ingin Anda gunakan.

      Untuk mengetahui informasi selengkapnya tentang konfigurasi TPU, termasuk konfigurasi dan varian topologi yang didukung, lihat Versi TPU.

    • Versi software: Jika Anda meminta resource yang diantrekan, tetapkan flag --runtime-version ke nama versi software yang ingin Anda gunakan. Jika tidak, gunakan flag --version. Versi software TPU tersedia untuk framework TensorFlow, PyTorch, dan JAX. Untuk mengetahui informasi selengkapnya tentang versi software yang didukung, lihat Versi software VM TPU.

    • Akun layanan: Tetapkan --service-account ke alamat email akun layanan, jika Anda membuatnya, untuk melampirkan akun layanan ke TPU. Jika kosong, akun layanan Compute Engine default akan digunakan.

    • Quota type: Tambahkan flag yang sesuai dengan jenis kuota yang ingin Anda gunakan:

      Jenis kuota Tanda
      Dipesan --reserved
      Spot VM --spot
      Dapat dihentikan (tidak tersedia untuk resource yang diantrekan; gunakan --spot sebagai gantinya) --preemptible
      Sesuai permintaan Tidak perlu tanda tambahan

    • Konfigurasi lanjutan: Anda dapat menambahkan flag tambahan ke permintaan untuk mengonfigurasi TPU. Lihat dokumentasi gcloud compute tpus tpu-vm create dan bagian berikut untuk mengetahui informasi selengkapnya:

Untuk mengetahui contoh cara membuat Cloud TPU, lihat Memulai.

Langkah selanjutnya

  1. Pelajari cara membuat dan mengelola resource VM dan TPU
  2. Menjalankan panduan memulai Cloud TPU