Pertanyaan Umum (FAQ) - Cloud TPU

Dokumen ini berisi daftar pertanyaan umum (FAQ) tentang Cloud TPU. Bagian ini dibagi menjadi beberapa bagian:

  1. FAQ independen framework - pertanyaan tentang penggunaan Cloud TPU, terlepas dari framework ML yang Anda gunakan.
  2. FAQ JAX - pertanyaan tentang penggunaan Cloud TPU dengan JAX.
  3. FAQ PyTorch - pertanyaan tentang penggunaan Cloud TPU dengan PyTorch.

FAQ independen framework

Bagaimana cara memeriksa proses mana yang menggunakan TPU di VM Cloud TPU?

Jalankan tpu-info di VM Cloud TPU untuk mencetak ID proses dan informasi lain tentang proses menggunakan TPU. Lihat metrik yang didukung untuk mengetahui metrik dan definisi yang sesuai.

   tpu-info

Output dari tpu-info mirip dengan berikut ini:

   TPU Chips
   ┏━━━━━━━━━━━━━┳━━━━━━━━━━━━━┳━━━━━━━━━┳━━━━━━━━┓
   ┃ Chip        ┃ Type        ┃ Devices ┃ PID    ┃
   ┡━━━━━━━━━━━━━╇━━━━━━━━━━━━━╇━━━━━━━━━╇━━━━━━━━┩
   │ /dev/accel0 │ TPU v4 chip │ 1       │ 130007 │
   │ /dev/accel1 │ TPU v4 chip │ 1       │ 130007 │
   │ /dev/accel2 │ TPU v4 chip │ 1       │ 130007 │
   │ /dev/accel3 │ TPU v4 chip │ 1       │ 130007 │
   └─────────────┴─────────────┴─────────┴────────┘

   TPU Runtime Utilization
   ┏━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━┳━━━━━━━━━━━━┓
   ┃ Device ┃ Memory usage         ┃ Duty cycle ┃
   ┡━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━╇━━━━━━━━━━━━┩
   │ 0      │ 0.00 GiB / 31.75 GiB │      0.00% │
   │ 1      │ 0.00 GiB / 31.75 GiB │      0.00% │
   │ 2      │ 0.00 GiB / 31.75 GiB │      0.00% │
   │ 3      │ 0.00 GiB / 31.75 GiB │      0.00% │
   └────────┴──────────────────────┴────────────┘

   TensorCore Utilization
   ┏━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━━┓
   ┃ Chip ID ┃ TensorCore Utilization ┃
   ┡━━━━━━━━━╇━━━━━━━━━━━━━━━━━━━━━━━━┩
   │ 0       │                  0.00% │
   │ 1       │                  0.00% │
   │ 3       │                  0.00% │
   │ 2       │                  0.00% |
   └─────────┴────────────────────────┘

   Buffer Transfer Latency
   ┏━━━━━━━━━━━━━┳━━━━━┳━━━━━┳━━━━━┳━━━━━━┓
   ┃ Buffer Size ┃ P50 ┃ P90 ┃ P95 ┃ P999 ┃
   ┡━━━━━━━━━━━━━╇━━━━━╇━━━━━╇━━━━━╇━━━━━━┩
   │       8MB+  | 0us │ 0us │ 0us │  0us |
   └─────────────┴─────┴─────┴─────┴──────┘

Bagaimana cara menambahkan volume persistent disk ke VM Cloud TPU?

Untuk mengetahui informasi selengkapnya, lihat Menambahkan persistent disk ke VM TPU.

Untuk mengetahui informasi selengkapnya, lihat Opsi penyimpanan Cloud TPU.

FAQ JAX

Bagaimana cara mengetahui apakah TPU sedang digunakan oleh program saya?

Ada beberapa cara untuk memeriksa kembali apakah JAX menggunakan TPU:

  1. Gunakan fungsi jax.devices(). Contoh:

    assert jax.devices()[0].platform == 'tpu'

  2. Buat profil program Anda dan verifikasi bahwa profil tersebut berisi operasi TPU. Untuk informasi selengkapnya, lihat Membuat profil program JAX

Untuk mengetahui informasi selengkapnya, lihat FAQ JAX

FAQ Pytorch

Bagaimana cara mengetahui apakah TPU sedang digunakan oleh program saya?

Anda dapat menjalankan perintah python berikut:

>>> import torch_xla.core.xla_model as xm
>>> xm.get_xla_supported_devices(devkind="TPU")

Kemudian, verifikasi apakah Anda dapat melihat perangkat TPU.