在 Google Distributed Cloud (GDC) 實體隔離方案中建立 Kubernetes 叢集時,您會建立節點集區,負責在叢集中執行容器工作負載。您可以根據容器工作負載需求佈建節點,並隨著需求演變更新節點。
GDC 為工作站節點提供預先定義的機器類型,您可以在新增節點集區時選取。您也可以使用多重執行個體 GPU (MIG) 功能,以多種方式分割個別 GPU 執行個體。
如要瞭解可用的機器類型和 GPU 支援,請參閱下列章節。
可用的機器類型
GDC 會為 Kubernetes 叢集節點定義機器類型,並設定 CPU、記憶體和 GPU 等參數。GDC 提供多種機器類型,適用於不同用途。舉例來說,叢集會使用 n2-standard-4-gdc
處理一般用途的容器工作負載。如果您打算執行人工智慧 (AI) 和機器學習 (ML) 筆記本,就必須佈建 GPU 機器,例如 a2-highgpu-1g-gdc
。
以下列出 Kubernetes 叢集工作站節點可用的所有 GDC 預先定義機器類型:
名稱 | vCPU | 記憶體 | GPU |
---|---|---|---|
n2-standard-4-gdc | 4 | 16G | 不適用 |
n2-standard-8-gdc | 8 | 32G | 不適用 |
n2-standard-16-gdc | 16 | 64G | 不適用 |
n2-standard-32-gdc | 32 | 128G | 不適用 |
n2-highmem-4-gdc | 4 | 32G | 不適用 |
n2-highmem-8-gdc | 8 | 64G | 不適用 |
n2-highmem-16-gdc | 16 | 128G | 不適用 |
n2-highmem-32-gdc | 32 | 256G | 不適用 |
a2-highgpu-1g-gdc | 12 | 85G | 1 個 A100 40GB |
a2-ultragpu-1g-gdc | 12 | 170G | 1 個 A100 80GB |
a2-ultragpu-2g-gdc | 24 | 340G | 2 個 A100 80GB |
a3-highgpu-1g-gdc | 28 | 240G | 1 個 H100 94GB |
a3-highgpu-2g-gdc | 56 | 480G | 2 個 H100 94GB |
a3-highgpu-4g-gdc | 112 | 960G | 4x H100 94GB |
支援的 MIG 設定檔
本節說明支援的 GPU 上 MIG 設定檔支援的分區配置。您可以在Cluster
自訂資源中,為節點集區定義分割區配置。
如要進一步瞭解如何套用 GPU 分割配置,請參閱「新增節點集區」。
A100 40GB GPU
下表列出 A100 40GB NVIDIA GPU 支援的 MIG 設定檔:
分區配置 | 可用分割區 |
---|---|
1g.5gb | 7x 1g.5gb |
2g.10gb | 3x 2g.10gb |
3g.20gb | 2x 3g.20gb |
7g.40gb | 1x 7g.40gb |
mixed-1 | 1x 4g.20gb 1x 2g.10gb 1x 1g.5gb |
mixed-2 | 1x 4g.20gb 3x 1g.5gb |
mixed-3 | 1x 3g.20gb 2x 2g.10gb |
mixed-4 | 1x 3g.20gb 1x 2g.10gb 2x 1g.5gb |
mixed-5 | 1x 3g.20gb 4x 1g.5gb |
mixed-6 | 3x 2g.10gb 1x 1g.5b |
mixed-7 | 2x 2g.10gb 3x 1g.5b |
mixed-8 | 1x 2g.10gb 5x 1g.5gb |
A100 80GB GPU
下表列出 A100 80GB NVIDIA GPU 支援的 MIG 剖析:
分區配置 | 可用分割區 |
---|---|
1g.10gb | 7x 1g.10gb |
2g.20gb | 3x 2g.20gb |
3g.40gb | 2x 3g.40gb |
7g.80gb | 1x 7g.80gb |
mixed-1 | 1x 4g.40gb 1x 2g.20gb 1x 1g.10gb |
mixed-2 | 1x 4g.40gb 3x 1g.10gb |
mixed-3 | 1x 3g.40gb 2x 2g.20gb |
mixed-4 | 1x 3g.40gb 1x 2g.20gb 2x 1g.10gb |
mixed-5 | 1x 3g.40gb 4x 1g.10gb |
mixed-6 | 3x 2g.20gb 1x 1g.10gb |
mixed-7 | 2x 2g.20gb 3x 1g.10gb |
mixed-8 | 1x 2g.20gb 5x 1g.10gb |
H100 94GB GPU
下表定義 H100 94GB NVIDIA GPU 支援的 MIG 設定檔:
分區配置 | 可用分割區 |
---|---|
1g.12gb | 7x 1g.12gb |
1g.24gb | 7x 1g.24gb |
2g.24gb | 3x 2g.24gb |
3g.47gb | 2x 3g.47gb |
4g.47gb | 1x 4g.47gb |
7g.94gb | 1x 7g.94gb |
mixed-1 | 1x 4g.47gb 1x 3g.47gb |
mixed-2 | 1x 4g.47gb 1x 2g.24gb 1x 1g.12gb |
mixed-3 | 1x 4g.47gb 3x 1g.12gb |
mixed-4 | 1x 3g.47gb 2x 2g.24gb |
mixed-5 | 1x 3g.47gb 1x 2g.24gb 2x 1g.12gb |
mixed-6 | 1x 3g.47gb 4x 1g.12gb |
mixed-7 | 3x 2g.24gb 1x 1g.12gb |
mixed-8 | 2x 2g.24gb 3x 1g.12gb |
mixed-9 | 1x 2g.24gb 5x 1g.12gb |