Cloud TPU 定價
Cloud TPU 是一種自訂超級電腦，可在 Google Cloud 中執行最先進的機器學習模型，同時提供領先業界的成本效益。運算能力的驚人，可以幫助您推動企業轉型，或帶來下一個研究突破。
進一步瞭解 Cloud TPU v4 Pod 如何協助機器學習研究人員及開發人員以永續發展且有效率的方式推送 AI 技術。
瞭解哪些 Cloud TPU 產品最適合您的特定專案需求。
Cloud TPU 的定價方式
產品
Cloud TPU v4 Pod 是最新一代的 Google 自訂機器學習加速器，現已正式發布。所有 TPU v4 Pod 配量的形狀都使用相同的 v4 定價系統。
不過，Cloud TPU v2 和 v3 TPU 的定價與配額分為兩個系統：
- 單一裝置 TPU 定價：適用於以量計價或做為先佔裝置的個別 TPU 裝置 (評估定價可享 7 折優惠)。單一裝置 TPU 類型是獨立的 TPU 裝置，無法直接連線至 Google 資料中心內的其他 TPU 裝置。如果您的工作負載需要更多 TPU 核心和更大的記憶體集區，請改用 TPU Pod 配量。
- TPU Pod 定價：透過 TPU 裝置叢集透過專屬高速網路相互連線的叢集。如果您有評估配額、先佔配額 (評估定價的 7 折優惠)，或是購買 1 年的合約或 3 年合約方案，即可使用這些 TPU 類型。
如要進一步瞭解 TPU v2、v3 和 v4，請參閱 TPU 系統架構。
TPU 節點處於 READY 狀態時，系統會累計 Cloud TPU 費用。
您會在每個帳單週期結束時收到帳單，當中列出該期的用量與費用。
使用選項
| 類型 | TPU 產品 | 帳單 | 最適合用於： |
|---|---|---|---|
| 綁約 3 年 (3 年期 CUD) | TPU v4 Pod、TPU v3 Pod、TPU v2 Pod | 每月 (根據保留的配額) | 需要持續存取 512 個以上核心核心的機器學習使用者 |
| 綁約 1 年 (1 年 CUD) | TPU v4 Pod、TPU v3 Pod、TPU v2 Pod | 每月 (根據保留的配額) | 需要持續存取 32 至 512 個核心核心的機器學習使用者 |
| 評估 (以量計價) | TPU v4 Pod、TPU v3 Pod、TPU v2 Pod、TPU v3*、TPU v2* | 每小時 (根據實際用量) | 想要執行短期實驗或基準測試的機器學習使用者 |
| 先占 | TPU v4 Pod、TPU v3*、TPU v3 Pod、TPU v2*、TPU v2 Pod | 每小時 (根據實際用量) | 想要執行批次 / 容錯工作負載的機器學習使用者 |
* 搭載 8 個核心的裝置。在 SKU 頁面上，這些裝置稱為 Tpu-v2 或 Tpu-v3 加速器。
方塊、核心、VM
1 TPU VM (TPU 虛擬機器) 有 4 個晶片和 8 個核心。Google Cloud 控制台中的帳單費用是以 VM 時數顯示 (例如，包含 4 個 TPU v4 晶片的單一 Cloud TPU v4 主機以量計價價格為每小時 $12.88 美元)。Google Cloud 控制台的使用資料也會以 VM 時數計算。
透過 TRC 免費存取
新客戶可獲得價值 $300 美元的免費抵免額，盡情試用 Google Cloud 的各項功能。立即開始。
如果您是研究人員、學生、學生、演出者或創業家，歡迎申請加入 TPU Research Cloud 計畫。TRC 成員可以存取大量 Cloud TPU 叢集，並透過同儕審查的出版品、開放原始碼、網誌文章、影片和其他媒體，與全世界分享自己的作品。請參閱這裡的 TRC 支援出版品。
歡迎立即申請加入，加速研究成果！
定價元件
Cloud TPU v4 定價
Cloud TPU v4 是最新一代的 Google 自訂機器學習加速器，目前已正式發布。Google Cloud v2 和 Cloud v3 具備回溯相容性，但具備每個晶片的原始運算效能的 Cloud TPU v3 超過 2 倍。每個 TPU v4 晶片也包含單一邏輯核心，可讓一個程式使用完整的 32 GiB 記憶體，與 v2 的 8 GiB 和 v3 的 16 GiB 相比。Cloud TPU v4 Pod 配量與使用 3D 網格拓撲的自訂互連網路相連，並且從 v2 和 v3 的 2D 網格升級，提供 4 個晶片 (單一 TPU VM) 到數千個晶片的設定。
Cloud TPU v4 Pod 可在 us-central2-b 環境中使用，這是 Google 資料中心，在相同電網內每小時運作 90% 的無碳能源。這是全球規模最大的公開機器學習中樞，最高匯總效能可達 900 萬兆次。
下表列出 Cloud TPU v4 設定的定價。v4 是依據拓撲中的方塊數量計算。每個晶片有 2 個核心。
| TPU v4 定價 | 每個晶片時數的價格 | 以量計價的折扣 (以量計價) |
|---|---|---|
| 隨選 / 評估 | $3.22 美元 | |
| 1 年 CUD (承諾使用折扣) 保留項目 | $2.03 美元 | 37% |
| 3Y CUD (承諾使用折扣) 保留項目 | $1.45 美元 | 55% |
| 先佔 | $0.97 美元 | 70% |
Cloud TPU v2 和 v3 定價
Cloud TPU v2 和 v3 TPU 的定價和配額分為兩個系統：
- 單一裝置 TPU 類型定價：適用於以量計價或採用先佔裝置的個別 TPU 裝置。您無法結合多個單一裝置 TPU 類型，以便在單一工作負載中協同合作。
- TPU Pod 類型定價：透過專用高速網路相互連結的 TPU 裝置叢集。只有在您具有評估配額或購買 1 年或 3 年的合約時，才能使用這些 TPU 類型。
請參閱 TPU 系統架構說明文件，瞭解架構詳細資料，以及 v2、v3 和 v4 之間的差異。
單一裝置定價
單一裝置 TPU 類型是以秒為單位累加費用，並提供以量計價或先占價格。
單一裝置 TPU 類型為獨立的 TPU 裝置，無法直接透過網路連結至 Google 資料中心內的其他 TPU 裝置。如果您的工作負載需要更多的 TPU 核心和較大型的記憶體集區，請改用 TPU Pod 類型。
先佔 TPU 是一種 TPU，只要 Cloud TPU 需要存取其他工作的資源，即可隨時遭到先佔。先佔 TPU 的費用遠低於一般 TPU。先佔 TPU 在建立之後的第一分鐘內即已先佔，您就無須支付費用。
TPU Pod 類型定價
TPU Pod 類型可讓您存取使用專屬高速網路連結的多個 TPU 裝置。相較於單一 TPU 節點，這些 TPU 類型可提供更高的運算能力和更大的 TPU 記憶體集區。如要使用 TPU Pod 類型，則必須透過下列其中一個選項申請配額：
- 申請使用評估配額，以便測試 TPU Pod 類型的效能。使用評估配額建立的 TPU 節點是以秒為單位累加費用，不過我們無法保證所提供的服務水準會與以量計價 TPU 裝置或透過承諾配額建立的裝置相同。評估配額只會在專案中保留一段時間。
- 購買 1 年或 3 年的合約，即可建立含有多達 2,048 個核心的 TPU 節點。承諾使用合約允許在合約期間隨時存取保留的核心。系統會在合約期間向您收取固定的月費，即便您未使用任何 TPU 資源亦然。
您可以使用下列 TPU 類型來設定 TPU 節點：
如果使用美元以外的貨幣付費，系統將按照 Cloud Platform SKU 頁面上列出的相應貨幣價格來計費。
如要瞭解不同 TPU 版本和設定之間的差異，請參閱 TPU 系統架構說明文件。
獲得最佳成本效益
與 Azure 上的 A100 相比，Cloud TPU v4 在 Transformer 型模型上最多可省下 35% 的費用，而 ResNet 模型最多可省下 50% 。
由於儲存方式 (例如 GPT-3 和 PaLM) 遠比 MLPerf 基準中使用的 BERT 和 ResNet 模型還要大，因此 PaLM 是 5.4 億個參數模型，而 MLPerf 基準使用的 BERT 模型只有 3.4 億個變量的 1, 000 億個參數。根據自身經驗，TPU 的優點會隨著規模而大幅增長，讓 Cloud TPU v4 的訓練內容更加完整。
預估費用
使用 Compute Engine Pricing Calculator 估算 Cloud TPU 的使用費用，請在頂端列選擇 [Cloud TPU]。
後續步驟
- 使用 Cloud TPU 申請表單購買配額，並/或進一步瞭解 Cloud TPU。或者，您也可以與我們的銷售團隊聯絡！
- 閱讀 Cloud TPU v4 上市網誌文章
- 觀看 2022 年 Google I/O 大會的 TPU v4 公告
- 進一步瞭解 TPU v4 記錄設定 MLPerf 2.0 結果
- 參閱 Cloud TPU 配額政策頁面，瞭解如何申請不同 TPU 類型的配額。
- 查看可提供 Cloud TPU 的區域與可用區。
- 查看版本資訊頁面，掌握日後的價格異動消息。
- 參閱 Cloud TPU 說明文件。
- 開始使用 Cloud TPU。
- 瞭解 Cloud TPU 解決方案與應用實例。