Cloud TPU

以前所未有的速度训练和运行机器学习模型。

查看文档 使用入门

利用 Google Cloud AI 为企业助力

从加强网络安全到提高医疗诊断准确性，机器学习技术为多方面的业务和研究领域带来了突破。为了让所有人都能够实现类似突破，我们打造了张量处理单元 (TPU)。Cloud TPU 是 Google 专为机器学习打造的 ASIC，广泛应用于翻译、相册、搜索、助理和 Gmail 等诸多 Google 产品。本文介绍了如何运用 TPU 和机器学习技术助力您的企业加速取得成功（特别是在大规模运用的情况下）。

试用演示

想要详细了解 Cloud TPU 如何针对您的机器学习应用进行精细调整吗？

您可以试用演示或阅读博文。

机器学习性能和基准

如需了解 Cloud TPU 与其他加速器之间的对比情况，请阅读博客或查看 MLPerf 基准测试结果。

优势

专为 Google Cloud 上的人工智能应用而打造

Cloud TPU 的设计目标就是利用 Google Cloud 上的 AI 服务运行最先进的机器学习模型，其自定义高速网络可在单个 Pod 中提供超过每秒 100 千万亿次浮点运算的性能。它的强大计算能力足以帮助您实现业务转型或在研究上取得新突破。

更快地迭代您的机器学习解决方案

训练机器学习模型就像编译代码一样：您需要经常进行更新，并且尽可能高效地完成更新。机器学习模型需要随着应用的构建、部署和优化而反复训练。Cloud TPU 性能强大而费用低廉，是希望快速、频繁地进行解决方案迭代的机器学习团队的理想之选。

久经考验的先进模型

您可以针对许多实际使用场景打造自己的机器学习驱动型解决方案。只需提供您的数据、下载经过 Google 优化的参考模型并进行训练即可。

Cloud TPU 产品

Cloud TPU v2

每秒 180 万亿次浮点运算

64 GB 高带宽内存 (HBM)

Cloud TPU v3

每秒 420 万亿次浮点运算

128 GB HBM

Cloud TPU v2 Pod

每秒 11.5 千万亿次浮点运算

4 TB HBM

二维环面网状网络

Cloud TPU v3 Pod

每秒超过 100 千万亿次浮点运算

32 TB HBM

二维环面网状网络

Cloud TPU 特性

模型库

您可以立即开始使用我们不断扩充的 Cloud TPU 优化模型库。这些模型在图片分类、对象检测、语言建模、语音识别等方面提供了经过优化的性能、准确性和质量。

将 Cloud TPU 与自定义机器类型关联

您可以将 Cloud TPU 与自定义 AI Platform Deep Learning VM Image 类型关联，这有助于根据具体工作负载以最优方式平衡处理器速度、内存和高性能存储资源。

与 Google Cloud Platform 全面集成

Cloud TPU 和 Google Cloud 的数据和分析服务与 Google Kubernetes Engine (GKE) 等其他 Google Cloud Platform 产品在核心层面上全面集成。因此，当您在 Cloud TPU 上运行机器学习工作负载时，可充分利用 GCP 行业领先的存储、网络及数据分析技术优势。

抢占式 Cloud TPU

您可以为容错式机器学习工作负载（例如，设有检查点且长时间运行的训练，或者基于大型数据集的批量预测）使用抢占式 Cloud TPU，从而节省资金。抢占式 Cloud TPU 的价格比按需实例低 70%，这使得从初期实验到大规模超参数搜索的所有工作成本都比以往更加低廉。

我们的客户

Cloud TPU Pod 有助于加快我们的深度学习研究速度，并降低运营费用和复杂性，这些潜在益处对我们极具吸引力。现在，我们需要 24 个小时多一点的时间在本地 GPU 集群上完成模型训练，而将来所需的时间将缩短至 15 分钟到 7 小时不等，具体取决于 TPU Pod 的大小。

Ben Mabey，Recursion Pharmaceuticals 工程部副总裁

阅读案例  

自从我们开始使用 Google Cloud TPU 以来，其速度给我们留下了深刻的印象，之前通常需要几天才能完成的任务现在只需几小时即可完成。通过整合我们车队的最新导航数据以及研究社区在算法上的最新进展，Cloud TPU 可帮助我们快速行驶。

Anantha Kancherla，Lyft 5 级自动驾驶部门软件开发主管

阅读案例  

通过与 Google 合作并使用 TensorFlow Research Cloud TPU，我们能够以前所未有的规模探索新方法并开展新实验。

Athon Millane，Max Kelsen 机器学习与研究部门主管

Google Cloud TPU 是一个通过快速发展的创新技术支持深度学习的范例。我们发现，将 TensorFlow 工作负载转移到 TPU 后，不仅编写新模型的复杂程度大为降低，并且训练时间也大幅缩短，我们的生产力也随之提升。

Alfred Spector，Two Sigma 首席技术官

查看所有客户  

价格

您使用抢占式和非抢占式（按需）Cloud TPU 训练机器学习模型时，Google 会收取相应的使用费。如需了解详细的价格信息，请参阅价格指南。

单台 Cloud TPU 设备的价格

下表显示了各地区单台 Cloud TPU 设备的使用价格。

美国 欧洲 亚太

版本	按需	抢占式
Cloud TPU v2	$4.50/TPU 小时	$1.35/TPU 小时
Cloud TPU v3	$8.00/TPU 小时	$2.40/TPU 小时

Cloud TPU Pod 价格

下表显示了 Cloud TPU Pod 切片的使用价格。

Cloud TPU v2 Pod	试用价格/小时	1 年期承诺价格（优惠 37%）	3 年期承诺价格（优惠 55%）
32 核 Pod 切片	$24 USD	$132,451 USD	$283,824 USD
128 核 Pod 切片	$96 USD	$529,805 USD	$1,135,296 USD
256 核 Pod 切片	$192 USD	$1,059,610 USD	$2,270,592 USD
512 核 Pod 切片	$384 USD	$2,119,219 USD	$4,541,184 USD
Cloud TPU v3 Pod	试用价格/小时	1 年期承诺价格（优惠 37%）	3 年期承诺价格（优惠 55%）
32 核 Pod 切片	$32 USD	$176,601 USD	$378,432 USD

如需特定的 Cloud TPU Pod 配置或了解更大的 Cloud TPU v3 Pod 切片的价格，请与销售代表联系。

资源

Cloud TPU 教程、快速入门及文档

查看文档  

Next ’19：借助 TPU 实现快速、高效的数据科学

观看视频

AI Hub 中的 Cloud TPU 内容

了解详情  

了解图像中的内容：使用 Cloud TPU 快速、准确地分割图像

阅读博客  

是什么让 TPU 成为深度学习的完美硬件？

阅读博客  

在 Cloud TPU Pod 上以更快的速度、更低的成本训练 TensorFlow 机器学习模型

阅读博文  

Cloud AI 产品遵循 Google Cloud SLA 政策。这些产品在延迟时间或可用性方面的保证可能与其他 Google Cloud 服务有所不同。