配額政策

Cloud Machine Learning Engine 有資源分配上的限制,我們會提供合理的配額給每個專案並嚴格執行配額限制。具體政策會依資源供應狀況、使用者結構、服務使用紀錄和其他因素而有所不同,且隨時可能變更,恕不另行通知。

以下概略說明系統目前的配額限制。

服務要求限制

以每 100 秒間隔為單位,您只能提出限定數量的個別 API 要求。特定 API 或 API 群組適用的限制如下所述。

您可以在 Google Cloud Platform 主控台的 API Manager for Cloud ML Engine 查看專案要求配額。如需放寬目前的限制,請點選目前限制旁的編輯圖示,申請把配額提高到上限。如果您想申請超出上限的配額,請點選配額限制旁的編輯圖示,然後點選 [申請增加配額]。

工作要求

以下限制規定適用於 projects.jobs.create 要求 (訓練和批次預測工作合併計算):

期間 預設限制 上限
100 秒 10 100

線上預測要求

以下限制規定適用於 projects.predict 要求:

期間 預設限制 上限
100 秒 1,000 10,000

資源管理要求

以下限制規定適用於下列所有支援要求的合計總數:

期間 預設限制 上限
100 秒 50 500

除此之外,上述所有 delete 要求,以及所有版本的 create 要求,都有最多合計 10 個並行要求的限制。

資源配額

除了一定時間內的要求次數限制以外,資源使用量的限制如下所述:

  • 模型上限數:100
  • 版本上限數:200。版本限制為專案內的版本總數,您可以任意分配給使用中的模型。

ML 訓練單位和預測節點並行數量限制

在測量有多少 Google Cloud Platform 處理資源分配給 Cloud ML Engine 時,我們計算的是訓練工作的 ML 訓練單位和線上與批次預測的預測節點。

如需進一步瞭解 ML 訓練單位和預測節點,以及這兩者對費用 的影響,請參閱計價政策頁面。

一般專案在初次使用 Cloud ML Engine 時,並行的處理資源數量限制如下:

  • ML 訓練單位並行數量:15。
  • 預測節點並行數量:24。

並行 GPU 使用量限制

一般專案的並行 GPU 數量限制如下:

  • 並行 GPU 數量:10。

您在訓練模型時使用的 GPU 不會計入 Google Compute Engine 的 GPU。您也無法藉由 Cloud ML Engine 的配額而獲得使用 GPU 的 Compute Engine VM。如要啟動使用 GPU 的 Compute Engine VM,則必須申請 Compute Engine GPU 配額。詳情請參閱 Compute Engine 說明文件

請參閱使用 GPU 在雲端訓練模型一文,深入瞭解 GPU。

申請提高配額

本頁面所列配額是依照專案來分配,並可能隨使用而逐漸提高。如需更多處理能力,您可以申請提高配額。

  • 透過 Google Cloud Platform 主控台,申請提高 API Manager for Cloud ML Engine 當中列出的配額:

    1. 找出您要提高的配額。

    2. 找到配額使用量圖表底部的配額值,然後點選該值旁的鉛筆圖示。

    3. 輸入您想申請提高的數量:

      • 如果您想要的配額數值,是在配額限制對話方塊中顯示的數量範圍以內,則請輸入新數值並點選 [儲存]。

      • 如果您想把配額提高到超過所示上限的額度,請點選 [申請增加配額] 並按照第二種申請增加配額的指示操作。

  • 針對 Google Cloud Platform 主控台未列出的配額、您需要超出所列上限值的配額,或是需要部署超出預設 250 MB 限制的模型,請使用自訂申請表:

    1. 開啟 Cloud Machine Learning Engine Quota Request 表單 (您也可以經由提高配額對話方塊中的 [申請增加配額] 連結開啟該表單)。

    2. 填寫必填欄位,包括使用情境說明以及需要提高配額的原因。

    3. 按一下 [提交]。提出申請後,我們會透過電子郵件回覆您。

後續步驟

本頁內容對您是否有任何幫助?請提供意見:

傳送您對下列選項的寶貴意見...

這個網頁
AI Platform