TPU 区域和可用区

概览

TPU 类型之间的主要区别在于价格、 性能、内存容量和可用区级可用性

Google Cloud 使用区域（可细分为可用区）来定义 物理计算资源的位置。例如， us-central1 区域表示靠近 美国。创建 TPU 虚拟机时，您需要指定 自己想创建的内容请参阅 Compute Engine 全球、区域和可用区 资源文档 来详细了解区域级资源和可用区级资源。

您可以在下表中显示的可用区中创建 TPU 配置。

美国

TPU 类型 (v2) TPU v2 核心数 适用地区
v2-8 8 us-central1-b
us-central1-c
us-central1-f
v2-32 32 us-central1-a
v2-128 128 us-central1-a
v2-256 256 us-central1-a
v2-512 512 us-central1-a
TPU 类型 (v3) TPU v3 核心数 适用地区
v3-8 8 us-central1-a
us-central1-b
us-central1-f
TPU 类型 (v4) TPU v4 芯片 适用地区
所有 v4 配置 因切片大小而异 us-central2-b
TPU 类型 (v5e) TPU v5e 芯片 适用地区
所有 v5litepod 配置 因切片大小而异 us-central1-a
us-east5-a
us-east5-b
us-east5-c
us-south1-a
us-west1-c
us-west4-a
us-west4-b
TPU 类型 (v5p) TPU v5p 芯片 适用地区
所有 v5p 配置 因切片大小而异 us-east5-a
us-east5-c
us-east1-d

欧洲

TPU 类型 (v2) TPU v2 核心数 适用地区
v2-8 8 europe-west4-a
v2-32 32 europe-west4-a
v2-128 128 europe-west4-a
v2-256 256 europe-west4-a
v2-512 512 europe-west4-a
TPU 类型 (v3) TPU v3 核心数 适用地区
v3-8 8 europe-west4-a
v3-32 32 europe-west4-a
v3-64 64 europe-west4-a
v3-128 128 europe-west4-a
v3-256 256 europe-west4-a
v3-512 512 europe-west4-a
v3-1024 1024 europe-west4-a
v3-2048 2048 europe-west4-a
TPU 类型 (v5e) TPU v5e 芯片 适用地区
v5lite-1 1 europe-west4-b
v5lite-4 4 europe-west4-b
v5lite-8 8 europe-west4-b
所有 v5litepod 配置 因切片大小而异 europe-west1-b
europe-west4-a
europe-west4-b

亚太地区

TPU 类型 (v2) TPU v2 核心数 适用地区
v2-8 8 asia-east1-c
TPU 类型 (v5e) TPU v5e 芯片 适用地区
所有 v5litepod 配置 因切片大小而异 asia-southeast1-b

芯片或核心数量较多的 TPU 类型仅在部分 数量。芯片数或核心数较少的 TPU 类型更有可能 可用。

计算性价比

要决定使用哪种 TPU 类型，您可以使用 Cloud TPU 教程来训练 与您的应用类似

运行完整教程时所用步骤数的 5-10% 在 v2-8 或 v3-8 TPU 类型上进行训练。取得的成效 告诉您模型在每个模型上 TPU 类型。

因为各 TPU 类型的性能可线性扩展，如果您知道这需要多长时间 在 v2-8 或 v3-8 TPU 类型上运行任务时，您可以 估算在更大的 TPU 上运行模型可以减少任务时间的幅度 具有更多芯片或核心的网络。

例如，如果 v2-8 TPU 需要 60 分钟完成 1 万步， “v2-32”节点大约需要 15 分钟才能执行相同的操作 任务。

当您知道模型在几个不同的平台上 您可以根据训练时间来权衡虚拟机/TPU 的费用， 确定性价比的最佳平衡点。

要确定 Cloud TPU 和相关 Compute Engine 虚拟机的不同 TPU 类型之间的费用差异，请参阅 TPU 价格页面。

指定 TPU 类型

无论您使用哪种框架，都需要指定一个 v2 或 v3 TPU 类型 accelerator-type 参数， 启动 TPU。对于 TPU v4 或更高版本 可以使用 AcceleratorType 或 AcceleratorConfig.如需了解详情，请参阅 TPU 版本。命令示例如下： 请参阅管理 TPU 中的说明。

后续步骤

  • 如需查看每个区域的 TPU 的价格，请参阅价格 页面。
  • 如需详细了解 TPU 架构，请参阅系统 架构页面。
  • 请参阅何时使用 TPU，了解 非常适合 Cloud TPU 的模型。