Quando cria um cluster do Kubernetes no Google Distributed Cloud (GDC) air-gapped, cria pools de nós responsáveis pela execução das suas cargas de trabalho de contentores no cluster. Aprovisiona nós com base nos requisitos da carga de trabalho do contentor e pode atualizá-los à medida que os requisitos evoluem.
O GDC fornece tipos de máquinas predefinidos para os nós de trabalho, que são selecionáveis quando adiciona um conjunto de nós. Também existem várias formas de particionar instâncias de GPU separadas através da funcionalidade de GPU multi-instância (MIG).
Consulte as secções seguintes para ver os tipos de máquinas disponíveis e o suporte de GPU.
Tipos de máquinas disponíveis
O GDC define tipos de máquinas com alguns parâmetros
para um nó do cluster Kubernetes, que incluem CPU, memória e GPU.
O GDC tem vários tipos de máquinas para diferentes fins.
Por exemplo, os clusters usam n2-standard-4-gdc
para cargas de trabalho de contentores de uso geral. Se planeia executar blocos de notas de inteligência artificial (IA) e
aprendizagem automática (AA), tem de aprovisionar máquinas com GPU, como
a2-highgpu-1g-gdc
.
Segue-se uma lista de todos os tipos de máquinas predefinidos do GDC disponíveis para nós de trabalho do cluster do Kubernetes:
Nome | vCPUs | Memória | GPU |
---|---|---|---|
n2-standard-4-gdc | 4 | 16G | N/A |
n2-standard-8-gdc | 8 | 32G | N/A |
n2-standard-16-gdc | 16 | 64G | N/A |
n2-standard-32-gdc | 32 | 128G | N/A |
n2-highmem-4-gdc | 4 | 32G | N/A |
n2-highmem-8-gdc | 8 | 64G | N/A |
n2-highmem-16-gdc | 16 | 128G | N/A |
n2-highmem-32-gdc | 32 | 256G | N/A |
a2-highgpu-1g-gdc | 12 | 85G | 1x A100 40GB |
a2-ultragpu-1g-gdc | 12 | 170G | 1x A100 80GB |
a2-ultragpu-2g-gdc | 24 | 340G | 2x A100 80GB |
a3-highgpu-1g-gdc | 28 | 240G | 1x H100 94GB |
a3-highgpu-2g-gdc | 56 | 480G | 2x H100 94GB |
a3-highgpu-4g-gdc | 112 | 960G | 4x H100 94GB |
Perfis MIG suportados
Esta secção define os esquemas de partição suportados dos perfis de MIG em GPUs suportadas. Pode definir um esquema de partição para um conjunto de nós no seu recurso personalizado Cluster
.
Para mais informações sobre como aplicar um esquema de partição de GPU, consulte o artigo Adicione um conjunto de nós.
GPU A100 de 40 GB
A tabela seguinte define os perfis de MIG suportados na GPU NVIDIA A100 de 40 GB:
Esquema de partição | Partições disponíveis |
---|---|
1g.5gb | 7x 1g.5gb |
2g.10gb | 3x 2g.10gb |
3g.20gb | 2x 3g.20gb |
7g.40gb | 1x 7g.40gb |
mixed-1 | 1x 4g.20gb 1x 2g.10gb 1x 1g.5gb |
mixed-2 | 1x 4g.20gb 3x 1g.5gb |
mixed-3 | 1x 3g.20gb 2x 2g.10gb |
mixed-4 | 1x 3g.20gb 1x 2g.10gb 2x 1g.5gb |
mixed-5 | 1x 3g.20gb 4x 1g.5gb |
mixed-6 | 3x 2g.10gb 1x 1g.5b |
mixed-7 | 2x 2g.10gb 3x 1g.5b |
mixed-8 | 1x 2g.10gb 5x 1g.5gb |
GPU A100 de 80 GB
A tabela seguinte define os perfis de MIG suportados na GPU NVIDIA A100 de 80 GB:
Esquema de partição | Partições disponíveis |
---|---|
1g.10gb | 7x 1g.10gb |
2g.20gb | 3x 2g.20gb |
3g.40gb | 2x 3g.40gb |
7g.80gb | 1x 7g.80gb |
mixed-1 | 1x 4g.40gb 1x 2g.20gb 1x 1g.10gb |
mixed-2 | 1x 4g.40gb 3x 1g.10gb |
mixed-3 | 1x 3g.40gb 2x 2g.20gb |
mixed-4 | 1x 3g.40gb 1x 2g.20gb 2x 1g.10gb |
mixed-5 | 1x 3g.40gb 4x 1g.10gb |
mixed-6 | 3x 2g.20gb 1x 1g.10gb |
mixed-7 | 2x 2g.20gb 3x 1g.10gb |
mixed-8 | 1x 2g.20gb 5x 1g.10gb |
GPU H100 de 94 GB
A tabela seguinte define os perfis de MIG suportados na GPU NVIDIA H100 de 94 GB:
Esquema de partição | Partições disponíveis |
---|---|
1g.12gb | 7x 1g.12gb |
1g.24gb | 7x 1g.24gb |
2g.24gb | 3x 2g.24gb |
3g.47gb | 2x 3g.47gb |
4G.47GB | 1 x 4G.47 GB |
7g.94gb | 1x 7g.94gb |
mixed-1 | 1x 4g.47gb 1x 3g.47gb |
mixed-2 | 1x 4g.47gb 1x 2g.24gb 1x 1g.12gb |
mixed-3 | 1x 4g.47gb 3x 1g.12gb |
mixed-4 | 1x 3g.47gb 2x 2g.24gb |
mixed-5 | 1x 3g.47gb 1x 2g.24gb 2x 1g.12gb |
mixed-6 | 1x 3g.47gb 4x 1g.12gb |
mixed-7 | 3x 2g.24gb 1x 1g.12gb |
mixed-8 | 2x 2g.24gb 3x 1g.12gb |
mixed-9 | 1x 2g.24gb 5x 1g.12gb |