使用預留項目

本文說明如何使用 Compute Engine 預留項目,確保 Colab Enterprise 執行階段有足夠的虛擬機器 (VM) 資源可供執行。

預訂是 Compute Engine 的功能。這類保留項目可確保您擁有可用資源,隨時能建立具有相同硬體 (記憶體和 vCPU) 和選用資源 (GPU 和本機 SSD 磁碟) 的 VM。

建立預訂時,Compute Engine 會驗證指定區域是否提供要求的容量。如果是,Compute Engine 會預留資源、建立預留項目,並發生下列情況:

  • 您可立即使用預留資源,且預留資源會一直可用,直到您刪除預留項目為止。

  • 系統會根據執行中 VM 的隨選費率 (包括任何適用折扣),向您收取預留資源的費用,直到刪除預留項目為止。使用預留項目時,VM 不會產生重複的資源費用,因為預留項目已計入預留資源的費用。詳情請參閱「Compute Engine 可用區資源的預留項目」。

總覽

如要搭配 Colab Enterprise 使用預留項目,請執行下列工作:

  1. 建立預留項目

  2. 將預訂項目新增至新的執行階段範本

  3. 使用預留項目:在衍生自執行階段範本的執行階段上執行程式碼。

限制與需求

當 Colab Enterprise 執行階段使用預留項目時,Compute Engine 預留項目的所有限制都適用。請參閱「預留的運作方式」。

此外,在 Colab Enterprise 中使用預留項目時,還須遵守下列限制和規定:

  • 預訂必須符合下列條件:

    • 與 Colab Enterprise 筆記本和執行階段位於同一個專案中。
    • 與 Colab Enterprise 筆記本和執行階段共用同一個專案。
  • 如要使用預留項目,預留項目的 VM 屬性必須與 Colab Enterprise 執行階段完全相符。舉例來說,如果預留項目指定 e2-standard-8 機器類型,則 Colab Enterprise 執行階段也必須使用 e2-standard-8 機器類型,才能使用預留項目。請參閱「需求條件」。

事前準備

  1. 請參閱 預訂規定 限制
  2. 請參閱共用預訂的 配額規定 限制
  3. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
  4. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  5. Verify that billing is enabled for your Google Cloud project.

  6. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

  7. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  8. Verify that billing is enabled for your Google Cloud project.

  9. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

  10. 必要的角色

    如要取得使用 Colab Enterprise 預留項目所需的權限,請要求管理員將專案的下列 IAM 角色授予您:

    如要進一步瞭解如何授予角色,請參閱「管理專案、資料夾和機構的存取權」。

    您或許還可透過自訂角色或其他預先定義的角色取得必要權限。

    建立保留項目

    建立 Compute Engine 預留項目。可以是單一專案預留項目或共用預留項目。詳情請參閱下列文件:

    保留項目可包含 GPU 加速器。

    將預訂項目新增至新的執行階段範本

    如要建立使用預留資源的執行階段範本,請按照下列步驟操作:
    1. 前往 Google Cloud 控制台的 Colab Enterprise「執行階段範本」頁面。

      前往「執行階段範本」

    2. 按一下「新增範本」

      系統會顯示「建立新的執行階段範本」對話方塊。

    3. 在「Runtime basics」(執行階段基本設定) 部分,輸入「Display name」(顯示名稱)

    4. 在「Region」(區域) 選單中,選取要建立執行階段範本的區域。

    5. 在「設定運算」部分中,於「機器類型」選單選取機器類型。執行階段範本的機型必須與預留項目的機型相符。

    6. 在「預留項目」選單中,選取要使用的特定預留項目,或選取「自動選取預留項目」

      如要進一步瞭解如何使用自動選取或特別指定的預留項目,請參閱「預留的運作方式」一文的「使用類型」一節。

    7. 完成對話方塊的其餘部分,然後按一下「建立」

      執行階段範本會顯示在「執行階段範本」分頁的清單中。

    使用預留項目

    如要使用預留項目,請按照下列步驟操作:

    1. 從新的執行階段範本建立執行階段

    2. 開啟或建立筆記本

    3. 在筆記本中連線至執行階段,然後執行程式碼。

    停止使用預留項目

    如要停止使用預訂項目,可以刪除預訂項目

    如要繼續將預留項目用於其他資源,但不想讓 Colab Enterprise 筆記本使用該項目,請刪除與預留項目相關聯的執行階段和執行階段範本。

    帳單

    使用 Compute Engine 預留項目時,系統會針對下列項目向您收費:

    • Compute Engine 資源,包括任何適用的承諾使用折扣 (CUD),均以 Compute Engine 定價計費。這些費用在 SKU 上會標示 goog-vertex-ai-product: colab-enterprise。請參閱 Compute Engine 定價

    • 除了基礎架構使用費,您還必須支付 Colab Enterprise 管理費。請參閱 Colab Enterprise 定價

    疑難排解

    本節說明如何在使用 Colab Enterprise 預訂時解決問題。

    無法建立執行階段

    嘗試建立執行階段時,發生類似下列的錯誤。

    Failed to create notebook runtime with error: Invalid value for field
    'resource.reservationAffinity': '{"consumeReservationType":
    "SPECIFIC_ALLOCATION", "key": "compute.googleapis.com/reservation-name...'.
    No available resources in specified reservations.
    

    如果預留項目的 VM 屬性與 Colab Enterprise 執行階段不符,就會發生這項錯誤。舉例來說,如果預留項目指定 e2-standard-8 機器類型,則 Colab Enterprise 執行階段也必須使用 e2-standard-8 機器類型,才能使用預留項目。詳情請參閱「需求條件」。

    如要解決這個問題,請建立執行階段範本,並設定與保留項目 VM 屬性相符的設定。

    後續步驟