隆重推出 Cloud TPU v5e,這是我們迄今為止最經濟實惠、功能多元且可擴充的 Cloud TPU。

Cloud Tensor Processing Unit (TPU)

使用 Google Cloud TPU 加快 AI 開發作業

Cloud TPU 會最佳化所有 AI 工作負載 (包括訓練和推論) 的效能和成本效益。TPU 使用世界級的資料中心基礎架構,提供高度可靠性、可用性和安全性。

不確定 TPU 是否符合您的需求嗎?瞭解何時在 Compute Engine 執行個體中使用 GPU 或 CPU 執行機器學習工作負載。

總覽

什麼是 Tensor Processing Unit (TPU)?

Google Cloud TPU 是經過最佳化調整的特製 AI 加速器,適合用於大型 AI 模型的訓練和推論作業。這類加速器是各種應用實例的最佳選擇,例如聊天機器人、程式碼生成、媒體內容生成、合成語音、視覺服務、推薦引擎、個人化模型等。 

Cloud TPU 有哪些優點?

Cloud TPU 能以符合成本效益的方式調度資源,並能支援訓練、微調和推論等多種 AI 工作負載。Cloud TPU 提供靈活性,讓您利用領先業界的 AI 架構加快工作負載處理速度,包括PyTorchJAXTensorFlow。Google Kubernetes Engine (GKE) 中的 Cloud TPU 整合功能,可讓您順暢自動化調度管理大規模的 AI 工作負載。想以簡單方式開發 AI 模型的客戶,也可利用全代管 AI 平台 Vertex AI 中的 Cloud TPU。

何時使用 Cloud TPU?

Cloud TPU 經過最佳化,適合用來訓練大型、複雜而且含有許多矩陣計算的深度學習模型,例如建構大型語言模型 (LLM)。Cloud TPU 也提供 SparseCores,這種 Dataflow 處理器會加速仰賴在建議模型中找到的嵌入功能之模型的處理速度。其他用途包括醫療照護,例如蛋白質摺疊建模和藥品研發。

Cloud TPU 與 GPU 有何不同?

GPU 原本就是專為處理電腦繪圖而設計的處理器,其平行處理架構非常適合用於處理 AI 工作負載常見的大型區塊資料的演算法。瞭解詳情

TPU 是 Google 針對類神經網路設計的特殊應用積體電路 (ASIC)。TPU 具備矩陣乘法單元 (MXU) 和專屬互連網路拓撲等特殊功能,非常適合用來加速 AI 訓練和推論。

Cloud TPU 版本

Cloud TPU v5e

效率最佳、用途多元且可擴充的 Cloud TPU。

Cloud TPU v5e 將於北美洲 (美國西部/中部和東部區域)、歐洲、中東和非洲地區 (荷蘭) 和亞太地區 (新加坡) 推出

Cloud TPU v4

最強大的 Cloud TPU,可用於訓練 AI 模型。

Cloud TPUv4 已於 us-central2 區域推出

Cloud TPU 版本 說明 適用情況

Cloud TPU v5e

效率最佳、用途多元且可擴充的 Cloud TPU。

Cloud TPU v5e 將於北美洲 (美國西部/中部和東部區域)、歐洲、中東和非洲地區 (荷蘭) 和亞太地區 (新加坡) 推出

Cloud TPU v4

最強大的 Cloud TPU,可用於訓練 AI 模型。

Cloud TPUv4 已於 us-central2 區域推出

運作方式

深入瞭解 Google Cloud TPU 的神奇之處,包括在資料中心內運作的珍貴視角。客戶透過 Cloud TPU 執行全球許多大型的 AI 工作負載,而這些並非僅仰賴晶片技術運作。在這部影片中,您將瞭解 TPU 系統的元件,包括資料中心網路、光學電路交換器、水冷卻系統、生物特徵辨識安全性驗證機制等。

常見用途

執行大規模 AI 訓練工作負載

微調基礎 AI 模型

處理大規模 AI 推論工作負載

GKE 中的 Cloud TPU

Vertex AI 中的 Cloud TPU

定價

Cloud TPU 定價

所有 Cloud TPU 價格皆以晶片小時為單位計算

Cloud TPU v5e

起始價:

$1.200

每晶片小時

起始價:

$0.8400

每晶片小時

起始價:

$0.5400 美元

每晶片小時

Cloud TPU v4

起始價:

$3.2200

每晶片小時

起始價:

$2.0286

每晶片小時

起始價:

$1.4490

每晶片小時

Cloud TPU 定價 所有 Cloud TPU 價格皆以晶片小時為單位計算
Cloud TPU 版本 評估價格 (美元) 承諾使用 1 年 (美元) 承諾使用 3 年 (美元)
Cloud TPU v5e

起始價:

$1.200

每晶片小時

起始價:

$0.8400

每晶片小時

起始價:

$0.5400 美元

每晶片小時

Cloud TPU v4

起始價:

$3.2200

每晶片小時

起始價:

$2.0286

每晶片小時

起始價:

$1.4490

每晶片小時

Pricing Calculator

估算每個月的 Cloud TPU 費用,包括特定區域的定價和相關費用。
估算費用

自訂報價

貴機構如需索取自訂報價,請與我們的銷售團隊聯絡。
要求報價

開始進行概念驗證

免費試用 Cloud TPU

開始使用

如何使用 Cloud TPU 的快速入門導覽課程

瞭解詳情

在 Cloud TPU VM 上執行 TensorFlow

查看指南

在 Cloud TPU VM 上執行 JAX

查看指南

在 Cloud TPU VM 上執行 PyTorch

查看指南