Cloud TPU 价格

TPU 价格和配额分为两个系统:

  • 单设备 TPU 类型价格,适用于按需提供或作为可抢占设备提供的单个 TPU 设备。 您无法组合多个单设备 TPU 类型以协同处理单个工作负载。
  • TPU Pod 类型价格,适用于通过专用高速网络相互连接的 TPU 设备集群。只有在您具有评估配额或者购买 1 年期或 3 年期承诺服务时,才能使用这些 TPU 类型。

当您的 TPU 节点处于 READY 状态时,就会累积 Cloud TPU 费用。 您会在每个结算周期结束时收到帐单,其中列明该周期内的用量和费用。

如需了解如何为单设备 TPU 类型申请配额,请参阅 Cloud TPU 配额政策页面。

单设备价格

单设备 TPU 类型以 1 秒钟为增量进行计费,并且提供按需价格或抢占式价格。

单设备 TPU 类型是独立的 TPU 设备,可直接与 Google 数据中心内的其他 TPU 设备建立网络连接。如果您的工作负载需要更多 TPU 核心和更大的内存池,请改用 TPU Pod 类型

如果 Cloud TPU 需要将资源分配给其他任务,则可能会随时终止(抢占)抢占式 TPU。抢占式 TPU 的费用要比普通 TPU 低廉得多。 如果抢占式 TPU 在您创建后第一分钟就被抢占,您不需要支付费用。

您可以使用下列单设备 TPU 类型来配置 TPU 节点:

TPU Pod 类型价格

TPU Pod 类型提供对全部通过专用高速网络连接的多个 TPU 设备的使用。这些 TPU 类型提供比单个 TPU 节点更大的计算容量和更大的 TPU 内存池。如需使用 TPU Pod 类型,您必须通过以下选项之一申请配额:

  • 申请评估配额,以便测试 TPU Pod 类型的性能。您使用评估配额创建的 TPU 节点以 1 秒钟为增量进行计费,但不保证能达到与按需 TPU 设备或者您使用承诺配额创建的设备相同的服务等级。评估配额仅在限定期限内对您的项目有效。
  • 购买 1 年期或 3 年期承诺服务,并创建 TPU 节点(最多不超过 2048 个核心)。承诺合约配额不采用增量计费形式。购买承诺服务后,即可在合约有效期内(按月份计)每天任何时候使用预留核心。在承诺期限内,您需要按月为购买的承诺服务付费,无论您是否使用任何 TPU 资源。

您可使用以下 TPU 类型来配置 TPU 节点:

如需了解不同 TPU 版本和配置之间的差异,请参阅 TPU 系统架构文档

1 年期和 3 年期承诺服务的总费用

下表显示了各种 TPU 承诺服务在其整个承诺期限的总费用:

如需了解超过 8 个核心的 TPU 类型的价格,请与销售代表联系

TensorFlow Research Cloud (TFRC) 计划

如果您加入了 TFRC 计划,可以在限定时间内免费使用 Cloud TPU v2 和 v3。作为 TFRC 计划的特别安排,只要您的 TPU 节点在 us-central1-f 地区运行,就不需要为 Cloud TPU 付费。

虚拟机价格

为了连接到 TPU,您必须配置一台单独结算的虚拟机。如需详细了解虚拟机实例的价格信息,请参阅 Compute Engine 价格

价格计算器

如需估算 Cloud TPU 和 Compute Engine 虚拟机实例的使用费,请参考 Compute Engine 价格计算器

价格示例

以下示例解释了如何计算一项训练作业的总费用,该作业使用美国区域的 TPU 资源和 Compute Engine 实例。

一位机器学习研究人员通过创建 Compute Engine 实例预配了虚拟机,选择的是 n1-standard-2 机器类型。他们还创建了一项 TPU 资源,其 Compute Engine 实例和 TPU 资源的累计使用时间都是 10 小时。为了计算一项训练作业的总费用,这位机器学习研究人员必须将以下几项相加在一起:

  • 所有 Compute Engine 实例的总费用
  • 所有 Cloud TPU 资源的总费用
资源 每小时每台机器的价格(美元) 机器数量 计费小时数 各资源总费用 训练作业总费用
Compute Engine
n1-standard-2 实例
$0.095 1 10 $0.95
Cloud TPU 资源 $4.50 1 10 $45.00
$45.95

使用抢占式 TPU 的价格示例

以下示例使用与上例相同的资源和时间段,但这一次该研究人员决定使用抢占式 TPU 来节省成本。抢占式 TPU v2 在美国的费用是每小时 $1.35,而普通 TPU v2 的费用是每小时 $4.50。

资源 每小时每台机器的价格(美元) 机器数量 计费小时数 各资源总费用 训练作业总费用
Compute Engine
n1-standard-2 实例
$0.095 1 10 $0.95
抢占式 TPU $1.35 1 10 $13.50
$14.45

后续步骤