配額政策

AI Platform 對於資源的分配與使用設有一定的限制,並會依據每項專案的情況調整可用的配額。具體規定會因資源供應情形、使用者結構、服務使用記錄和其他因素而不同,並且隨時可能變更,恕不另行通知。

以下各節概略說明系統目前的配額限制。

服務要求限制

您每 60 秒可提出的獨立 API 要求次數有一定的額度限制。特定 API 或 API 群組適用的限制如下所述。

在 Google Cloud Platform 主控台的 AI Platform API 管理員頁面中,您可以查看專案的要求配額。如想申請提高配額,請依序點選配額限制旁的「編輯」圖示和 [申請更多配額]

工作要求

以下的用量額度限制適用於 projects.jobs.create 要求 (訓練和批次預測工作合併計算):

期間 限制
60 秒 60

線上預測要求

以下限制規定適用於 projects.predict 要求:

期間 限制
60 秒 6,000

資源管理要求

以下的用量額度限制適用於下列受支援的要求 (所有要求的次數合併計算):

期間 限制
60 秒 300

除此之外,上述所有 delete 要求,以及所有版本的 create 要求,都有最多合計 10 個並行要求的限制。

資源配額

除了一定時間內的要求次數有所限制之外,您能夠使用的資源配額具有以下限制:

  • 模型數量上限:100 個。
  • 版本數量上限:200 個。此版本數量限制針對的是專案內版本總數,您可以根據需要分配給各個有效模型。

申請提高配額

本頁面所列的配額是以專案為單位進行分配。使用一段時間後,配額可能會隨之提高。如需提高處理能力,您可以申請更多配額。

  • 透過 Google Cloud Platform 主控台申請提高 AI Platform API 管理員中列出的配額:

    1. 找到您要提高的配額項目。

    2. 找到配額使用量圖表底部的配額值,然後點選旁邊的「鉛筆」圖示。

    3. 輸入您想申請提高的額度:

      • 如果所需配額值在配額限制對話方塊中顯示的數量範圍以內,請輸入新的值並點選 [儲存]。

      • 如果您要提高的配額量超過畫面上顯示的額度上限,請點選 [申請更多配額] 並按照第二種申請增加配額的指示操作。

  • 如果您要申請增加的配額項目未列在 Google Cloud Platform 主控台中、所需配額超出列出的上限值,或是您需要部署超出預設上限 (250 MB) 的模型,則請使用自訂申請表:

    1. 前往 AI Platform 配額申請表。或者,您也可以透過任一配額提高對話方塊中的「申請更多配額」連結開啟表單。

    2. 填妥所有必填欄位,包括用途說明和需要提高配額的原因。

    3. 按一下 [提交]。提出申請後,我們會透過電子郵件回覆您。

虛擬機器的並行用量限制

專案的 GCP 處理資源用量是依據下列項目計算得出:用來進行訓練的虛擬機器數量,以及用來進行批次預測的節點數量。本節將說明這些資源在專案中的並行用量限制。

用於批次預測的並行節點用量限制

初次使用 AI Platform 時,一般專案用於批次預測的並行節點會有下列數量限制:

  • 並行預測節點數量:72 個。

用於線上預測的節點用量限制

AI Platform 並未針對線上預測使用的節點數量設下配額限制。詳情請參閱預測節點和資源分配的相關說明。

用於訓練的並行 CPU 用量限制

一般專案的並行虛擬 CPU 數量限制會根據專案的用量記錄調整。

  • 並行 CPU 總數:一般可從 20 個 CPU 擴充至 450 個 CPU。這是單一專案中所有機器類型可並行使用的 CPU 總數上限。

您在訓練模型時使用的 CPU 不會計為 Compute Engine 的 CPU。另外,即便您有其他運算需求,也無法使用 AI Platform 的配額來存取任何 Compute Engine VM。如要啟動 Compute Engine VM,您必須申請 Compute Engine 配額。相關指示請參閱 Compute Engine 說明文件

用於訓練的並行 GPU 用量限制

初次使用 AI Platform 時,一般專案用於訓練機器學習模型的並行 GPU 會有下列數量限制:

  • 並行 GPU 總數:這是單一專案可並行使用的 GPU 數量上限,依類型區分如下:

    • Tesla K80 GPU 並行數量:30 個。
    • Tesla P100 GPU 並行數量:30 個。

您在訓練模型時使用的 GPU 不會計為 Compute Engine 的 GPU。另外,您也無法使用 AI Platform 的配額來存取任何採用 GPU 的 Compute Engine VM。如要啟動採用 GPU 的 Compute Engine VM,您必須申請 Compute Engine GPU 配額。相關指示請參閱 Compute Engine 說明文件

請參閱使用 GPU 在雲端訓練模型一文,深入瞭解 GPU。

用於訓練的並行 TPU 用量限制

根據預設,所有 Google Cloud Platform 專案至少都會有一個 Cloud TPU。

如需更多 Cloud TPU 配額,請填妥並提交 TPU 配額申請表單。系統會以每個 Cloud TPU 8 個 TPU 核心為單位進行配額分配。

我們會在配額申請通過核准後通知您。接下來,您必須設定 Google Cloud Platform 專案才能使用 TPU,詳情請參閱使用 TPU 的相關說明。

提醒您,由於申請人數眾多,我們可能不會核准每一項配額申請。

後續步驟

本頁內容對您是否有任何幫助?請提供意見:

傳送您對下列選項的寶貴意見...

這個網頁
TensorFlow 適用的 AI Platform