TPU 区域和可用区
概览
TPU 类型之间的主要区别在于价格、 性能、内存容量和可用区级可用性
Google Cloud 使用区域(可细分为可用区)来定义
物理计算资源的位置。例如,
us-central1
区域表示靠近
美国。创建 TPU 虚拟机时,您需要指定
自己想创建的内容请参阅 Compute Engine 全球、区域和可用区
资源文档
详细了解区域级和可用区级资源
您可以在下表中显示的可用区中创建 TPU 配置。
美国
TPU 类型 (v2) | TPU v2 核心数 | 适用地区 |
---|---|---|
v2-8 | 8 |
us-central1-b us-central1-c us-central1-f
|
v2-32 | 32 |
us-central1-a
|
v2-128 | 128 |
us-central1-a
|
v2-256 | 256 |
us-central1-a
|
v2-512 | 512 |
us-central1-a
|
TPU 类型 (v3) | TPU v3 核心数 | 适用地区 |
v3-8 | 8 |
us-central1-a us-central1-b us-central1-f
|
TPU 类型 (v4) | TPU v4 芯片 | 适用地区 |
所有 v4 配置 | 因切片大小而异 |
us-central2-b |
TPU 类型 (v5e) | TPU v5e 芯片 | 适用地区 |
所有 v5litepod 配置 | 因切片大小而异 |
us-central1-a us-east5-a us-east5-b us-east5-c us-south1-a us-west1-c us-west4-a us-west4-b |
TPU 类型 (v5p) | TPU v5p 芯片 | 适用地区 |
所有 v5p 配置 | 因切片大小而异 |
us-east5-a us-east5-c us-east1-d |
欧洲
TPU 类型 (v2) | TPU v2 核心数 | 适用地区 |
---|---|---|
v2-8 | 8 |
europe-west4-a
|
v2-32 | 32 |
europe-west4-a
|
v2-128 | 128 |
europe-west4-a
|
v2-256 | 256 |
europe-west4-a
|
v2-512 | 512 |
europe-west4-a
|
TPU 类型 (v3) | TPU v3 核心数 | 适用地区 |
v3-8 | 8 |
europe-west4-a
|
v3-32 | 32 |
europe-west4-a
|
v3-64 | 64 |
europe-west4-a
|
v3-128 | 128 |
europe-west4-a
|
v3-256 | 256 |
europe-west4-a
|
v3-512 | 512 |
europe-west4-a
|
v3-1024 | 1024 |
europe-west4-a
|
v3-2048 | 2048 |
europe-west4-a
|
TPU 类型 (v5e) | TPU v5e 芯片 | 适用地区 |
v5lite-1 | 1 |
europe-west4-b |
v5lite-4 | 4 |
europe-west4-b |
v5lite-8 | 8 |
europe-west4-b |
所有 v5litepod 配置 | 因切片大小而异 |
europe-west1-b europe-west4-a europe-west4-b |
亚太地区
TPU 类型 (v2) | TPU v2 核心数 | 适用地区 |
---|---|---|
v2-8 | 8 |
asia-east1-c
|
TPU 类型 (v5e) | TPU v5e 芯片 | 适用地区 |
所有 v5litepod 配置 | 因切片大小而异 |
asia-southeast1-b
|
芯片或核心数量较多的 TPU 类型仅在部分 数量。芯片数或核心数较少的 TPU 类型更有可能 可用。
计算性价比
要决定使用哪种 TPU 类型,您可以使用 Cloud TPU 教程来训练 与您的应用类似
运行完整教程时所用步骤数的 5-10%
在 v2-8
或 v3-8
TPU 类型上进行训练。取得的成效
告诉您模型在每个模型上
TPU 类型。
因为各 TPU 类型的性能可线性扩展,如果您知道这需要多长时间
在 v2-8
或 v3-8
TPU 类型上运行任务时,您可以
估算在更大的 TPU 上运行模型可以减少任务时间的幅度
具有更多芯片或核心的网络。
例如,如果 v2-8
TPU 需要 60 分钟完成 1 万步,
“v2-32
”节点大约需要 15 分钟才能执行相同的操作
任务。
当您知道模型在几个不同的平台上 您可以根据训练时间来权衡虚拟机/TPU 的费用, 确定性价比最佳。
要确定 Cloud TPU 和相关 Compute Engine 虚拟机的不同 TPU 类型之间的费用差异,请参阅 TPU 价格页面。
指定 TPU 类型
无论您使用哪种框架,都需要指定一个 v2
或 v3
TPU 类型
accelerator-type
参数,
启动 TPU。对于 TPU v4 或更高版本
可以使用 AcceleratorType
或
AcceleratorConfig
。如需了解详情,请参阅 TPU
版本。命令示例如下:
请参阅管理 TPU 中的说明。