Cloud TPU

以前所未有的速度訓練及執行機器學習模型。

透過 Google Cloud AI 擴展業務

透過 Google Cloud AI 擴展業務

機器學習技術在網路安全到醫療診斷等各個層面,都能帶來業務和研究上的重大突破。我們打造 Tensor Processing Unit (TPU) 的目標,是要讓每個人都能達成類似的突破。Cloud TPU 是客製化設計的機器學習 ASIC,主要為 Google 翻譯、Google 相簿、Google 搜尋、Google 助理或 Gmail 等 Google 產品提供技術支援。以下說明如何結合 TPU 與機器學習技術,幫助企業快速達成目標,特別是大規模的工作,更能因此受惠。

立即試用

想要進一步瞭解 Cloud TPU 是如何針對您的機器學習應用程式進行微調?
歡迎試用或參閱我們的網誌內容。
立即試用

機器學習的效能與基準

機器學習的效能與基準

如要查看 Cloud TPU 與其他加速器的效能差異,請參閱網誌內容或 MLPerf 基準結果

優勢

專為 Google Cloud 的 AI 技術量身訂做

專為 Google Cloud 的 AI 技術量身訂做

Cloud TPU 可搭配 AI 服務在 Google Cloud 中使用,是專為執行先進的機器學習模型而設計。另外,其自訂高速網路能夠在單一 pod 中提供每秒超過 100 千兆次浮點的運算能力,如此卓越效能足以推動貴公司轉型,或是帶來後續的研究突破。

加快機器學習解決方案的疊代速度

加快機器學習解決方案的疊代速度

訓練機器學習模型與編譯程式碼類似,兩者都需要以最有效率的方式頻繁更新。機器學習模型必須隨著建構、部署和改善應用程式的過程不斷反覆訓練。Cloud TPU 擁有效能強大與成本低廉兩大優點,對於想要在其解決方案中快速頻繁地進行疊代的機器學習團隊來說,是理想的解決方案。

經過驗證的先進模型

經過驗證的先進模型

您可以針對各種實際用途建構採用機器學習技術的自訂解決方案。您只需要提供資料並下載經 Google 最佳化的參考模型,接著開始訓練作業,一切就大功告成。

Cloud TPU 規格

Cloud TPU v2

Cloud TPU v2

每秒 180 萬億次浮點運算
64 GB 高頻寬記憶體 (HBM)
Cloud TPU v3

Cloud TPU v3

每秒 420 萬億次浮點運算
128 GB HBM
Cloud TPU v2 Pod Beta 版

Cloud TPU v2 Pod (Beta 版)

每秒 11.5 千兆次浮點運算
4 TB HBM
2-D 環面網狀網路
Cloud TPU v3 Pod Beta 版

Cloud TPU v3 Pod (Beta 版)

每秒超過 100 千兆次浮點運算
32 TB HBM
2-D 環面網狀網路

Cloud TPU 功能與特點

模型資料庫

您可以透過我們針對 Cloud TPU 所提供且不斷成長的最佳化模型資料庫,立即開始著手。這些模型可在圖片分類、物件偵測、語言模型建構、語音辨識等作業中,帶來最佳化的效能、準確率及品質。

將 Cloud TPU 與自訂機器類型連結

您可以透過自訂 AI 平台深度學習 VM 映像檔類型連結到 Cloud TPU,這樣就能針對個別工作負載以最佳方式平衡處理器速度、記憶體和高效能儲存空間資源。

與 Google Cloud Platform 完全整合

從核心來說,Cloud TPU 和 Google Cloud 的資料與分析服務已與 Google Kubernetes Engine (GKE) 等其他 Google Cloud Platform 產品完全整合。因此,您在 Cloud TPU 上處理機器學習工作負載時,可以充分運用 GCP 領先業界的儲存空間網路資料分析技術。

先占 Cloud TPU

對於容錯機器學習工作負載 (例如針對大型資料集執行含檢查點或批次預測的長時間訓練) 而言,使用先占 Cloud TPU 可節省費用。先占 Cloud TPU 的費用較隨選執行個體低 70%,因此無論是第一次實驗或大規模超參數搜尋作業,您都能比以往省下更多費用。

Recursion 標誌 Lyft 標誌 Max Kelsen 標誌 ebay 標誌
Anadarka 標誌 netmarble 標誌 wellio 標誌

定價

系統將根據使用先占與非先占 (隨選) Cloud TPU 來訓練機器學習模型的方式,收取 Cloud TPU 的費用。如需詳細的定價資訊,請參閱定價指南

單一 Cloud TPU v2 裝置定價

下表列出各地區的單一 Cloud TPU v2 裝置使用費率。

Cloud TPU v2 每一 TPU 每小時 $4.50 美元。
先佔 TPU v2 每一 TPU 每小時 $1.35 美元。

單一 Cloud TPU v3 裝置定價

下表列出各地區的單一 Cloud TPU v3 裝置使用費率。

Cloud TPU v3 每小時每一 TPU $8.00 美元。
先佔 TPU v3 每一 TPU 每小時 $2.40 美元。

Cloud TPU v2 Pod (Beta 版) 定價

下表列出各地區的 Cloud TPU v2 Pod 配量使用費用。

評估價格 (每小時) 承諾使用 1 年的價格 (37% 折扣) 承諾使用 3 年的價格 (55% 折扣)
32 核心 Pod 配量 $24 美元 $132,451 美元 $283,824 美元
128 核心 Pod 配量 $96 美元 $529,805 美元 $1,135,296 美元
256 核心 Pod 配量 $192 美元 $1,059,610 美元 $2,270,592 美元
512 核心 Pod 配量 $384 美元 $2,119,219 美元 $4,541,184 美元

Cloud TPU v3 Pod (Beta 版) 定價

下表列出各地區的 Cloud TPU v3 Pod 配量使用費用。

評估價格 (每小時) 承諾使用 1 年的價格 (37% 折扣) 承諾使用 3 年的價格 (55% 折扣)
32 核心 Pod 配量 $32 美元 $176,601 美元 $378,432 美元

如想索取 Cloud TPU Pod 設定資訊或更大型的 Cloud TPU v3 Pod 配量報價,請與業務代表聯絡

參考資源

Cloud TPU Pod (v2 和 v3) 目前仍在 Beta 測試階段。如要進一步瞭解各個產品的推出階段,請參閱這個網頁

傳送您對下列選項的寶貴意見...

這個網頁
Cloud TPU