Cloud TPU 价格

TPU 价格和配额分为两个系统:

  • 单设备 TPU 类型价格,适用于按需提供或作为抢占式设备提供的单个 TPU 设备。 您无法组合多个单设备 TPU 类型以协同处理单个工作负载。
  • TPU Pod 类型价格,适用于通过专用高速网络相互连接的 TPU 设备集群。只有在您具有评估配额或者购买 1 年期或 3 年期承诺时,才能使用这些 TPU 类型。

当您的 TPU 节点处于 READY 状态时,就会累积 Cloud TPU 费用。 您会在每个结算周期结束时收到帐单,其中会列出该周期内的用量和费用。

如需了解如何申请单设备 TPU 类型的配额,请参阅 Cloud TPU 配额政策页面。

单设备价格

单设备 TPU 类型以 1 秒钟为增量进行计费,并且提供按需价格或抢占式价格。

单设备 TPU 类型是独立的 TPU 设备,无法直接与 Google 数据中心内的其他 TPU 设备建立网络连接。如果您的工作负载需要更多 TPU 核心和更大的内存池,请使用 TPU Pod 类型

抢占式 TPU 是 Cloud TPU 在需要将资源分配给另一项任务时,可以随时终止(抢占)的 TPU。抢占式 TPU 的费用要比普通 TPU 低廉得多。如果抢占式 TPU 在您创建后第一分钟就被抢占,您不需要支付费用。

您可以使用下列单设备 TPU 类型来配置 TPU 节点:

TPU Pod 类型价格

TPU Pod 类型提供对多个 TPU 设备的使用权限,这些 TPU 设备全部通过专用高速网络连接。这些 TPU 类型提供比单个 TPU 节点更大的计算容量和更大的 TPU 内存池。如需使用 TPU Pod 类型,您必须通过以下选项之一申请配额:

  • 申请评估配额,以便测试 TPU Pod 类型的性能。使用评估配额创建的 TPU 节点以 1 秒钟为增量进行计费,但不保证能达到与按需 TPU 设备或者使用承诺配额创建的设备相同的服务等级。评估配额仅在限定期限内对您的项目有效。
  • 购买 1 年期或 3 年期承诺,并创建 TPU 节点(最多不超过 2048 个核心)。承诺不采用增量计费形式。购买承诺后,即可在合约有效期内(按月份计)每天任何时候使用预留核心。在承诺期限内,无论您是否使用了任何 TPU 资源,您都需要按月为购买的承诺付费。

您可使用以下 TPU 类型来配置 TPU 节点:

如需了解不同 TPU 版本和配置之间的差异,请参阅 TPU 系统架构文档

1 年期和 3 年期承诺的总费用

下表显示了各种 TPU 承诺在其整个承诺期限的总费用:

如需了解超过 8 个核心的 TPU 类型的价格,请与销售代表联系

TensorFlow Research Cloud (TFRC) 计划

如果您加入了 TFRC 计划,可以在限定时间内免费使用 Cloud TPU v2 和 v3。作为 TFRC 计划的特别安排,只要您的 TPU 节点在 us-central1-f 区域运行,就不需要为 Cloud TPU 付费。

虚拟机价格

为了连接到 TPU,您必须配置一台单独结算的虚拟机。如需详细了解虚拟机实例的价格信息,请参阅 Compute Engine 价格

价格计算器

如需估算 Cloud TPU 和 Compute Engine 虚拟机实例的使用费,请参考 Compute Engine 价格计算器

价格示例

以下示例解释了如何计算一项训练作业的总费用,该作业使用美国地区的 TPU 资源和 Compute Engine 实例。

一位机器学习研究人员通过创建 Compute Engine 实例预配了虚拟机,选择的是 n1-standard-2 机器类型。他们还创建了一项 TPU 资源,其 Compute Engine 实例和 TPU 资源的累计使用时间都是 10 小时。为了计算一项训练作业的总费用,这位机器学习研究人员必须将以下几项相加在一起:

  • 所有 Compute Engine 实例的总费用
  • 所有 Cloud TPU 资源的总费用
资源 每小时每台机器的价格(美元) 机器数量 计费小时数 各资源总费用 训练作业总费用
Compute Engine
n1-standard-2 实例
$0.095 1 10 $0.95
Cloud TPU 资源 $4.50 1 10 $45.00
$45.95

使用抢占式 TPU 的价格示例

以下示例使用与上例相同的资源和时间段,但这一次该研究人员决定使用抢占式 TPU 来节省成本。抢占式 TPU v2 在美国的费用是每小时 $1.35,而普通 TPU v2 的费用是每小时 $4.50。

资源 每小时每台机器的价格(美元) 机器数量 计费小时数 各资源总费用 训练作业总费用
Compute Engine
n1-standard-2 实例
$0.095 1 10 $0.95
抢占式 TPU $1.35 1 10 $13.50
$14.45

后续步骤