常见问题解答 - Cloud TPU

本文档包含有关 Cloud TPU 的常见问题解答列表。它分为以下几个部分：

  1. 与框架无关的常见问题解答 - 无论使用哪种机器学习框架，都会出现与使用 Cloud TPU 有关的问题。
  2. JAX 常见问题解答 - 关于将 Cloud TPU 与 JAX 搭配使用的问题。
  3. PyTorch 常见问题解答 - 有关将 Cloud TPU 与 PyTorch 结合使用的问题。

与框架无关的常见问题解答

如何检查哪个进程正在使用 Cloud TPU 虚拟机上的 TPU？

在 Cloud TPU 虚拟机上运行 sudo lsof -w /dev/accel*，以输出进程 ID 以及使用 TPU 的进程的其他相关信息。

如何向 Cloud TPU 虚拟机添加永久性磁盘卷？

如需了解详情，请参阅向 TPU 虚拟机添加永久性磁盘

使用 TPU 虚拟机进行训练时支持/推荐哪些存储方案？

如需了解详情，请参阅 Cloud TPU 存储方案。

JAX 常见问题解答

如何知道我的程序是否正在使用 TPU？

您可以通过以下几种方法仔细检查 JAX 是否使用 TPU：

  1. 使用 jax.devices() 函数。例如：

    assert jax.devices()[0].platform == 'tpu'

  2. 分析您的程序并验证配置文件包含 TPU 操作。如需了解详情，请参阅剖析 JAX 程序的性能

如需了解详情，请参阅 JAX 常见问题解答

Pytorch 常见问题解答

如何知道我的程序是否正在使用 TPU？

您可以运行以下 Python 命令：

>>> import torch_xla.core.xla_model as xm
>>> xm.get_xla_supported_devices(devkind="TPU")

验证您是否能看到任何 TPU 设备。