클러스터 노드 머신 유형

Google Distributed Cloud (GDC) 오프라인에서 Kubernetes 클러스터를 만들면 클러스터에서 컨테이너 워크로드를 실행하는 노드 풀이 생성됩니다. 컨테이너 워크로드 요구사항에 따라 노드를 프로비저닝하고 요구사항이 변경되면 업데이트할 수 있습니다.

GDC는 노드 풀을 추가할 때 선택할 수 있는 작업자 노드용 사전 정의된 머신 유형을 제공합니다. 멀티 인스턴스 GPU (MIG) 기능을 사용하여 별도의 GPU 인스턴스를 파티셔닝하는 방법도 여러 가지가 있습니다.

사용 가능한 머신 유형 및 GPU 지원은 다음 섹션을 참고하세요.

사용 가능한 머신 유형

GDC는 CPU, 메모리, GPU를 포함하는 Kubernetes 클러스터 노드의 일부 매개변수를 사용하여 머신 유형을 정의합니다. GDC에는 다양한 용도의 여러 머신 유형이 있습니다. 예를 들어 클러스터는 범용 컨테이너 워크로드에 n2-standard-4-gdc를 사용합니다. 인공지능 (AI) 및 머신러닝 (ML) 노트북을 실행하려면 a2-highgpu-1g-gdc와 같은 GPU 머신을 프로비저닝해야 합니다.

다음은 Kubernetes 클러스터 작업자 노드에 사용할 수 있는 모든 GDC 사전 정의된 머신 유형의 목록입니다.

이름 vCPU 메모리 GPU
n2-standard-4-gdc 4 16G 해당 사항 없음
n2-standard-8-gdc 8 32G 해당 사항 없음
n2-standard-16-gdc 16 64G 해당 사항 없음
n2-standard-32-gdc 32 128G 해당 사항 없음
n2-highmem-4-gdc 4 32G 해당 사항 없음
n2-highmem-8-gdc 8 64G 해당 사항 없음
n2-highmem-16-gdc 16 128G 해당 사항 없음
n2-highmem-32-gdc 32 256G 해당 사항 없음
a2-highgpu-1g-gdc 12 85G 1x A100 40GB
a2-ultragpu-1g-gdc 12 170G A100 80GB 1개
a2-ultragpu-2g-gdc 24 340G 2x A100 80GB
a3-highgpu-1g-gdc 28 240G 1x H100 94GB
a3-highgpu-2g-gdc 56 480G 2x H100 94GB
a3-highgpu-4g-gdc 112 960G 4x H100 94GB

지원되는 MIG 프로필

이 섹션에서는 지원되는 GPU에서 MIG 프로필의 지원되는 파티셔닝 스키마를 정의합니다. Cluster 커스텀 리소스에서 노드 풀의 파티셔닝 스키마를 정의할 수 있습니다.

GPU 파티셔닝 스키마를 적용하는 방법에 관한 자세한 내용은 노드 풀 추가를 참고하세요.

A100 40GB GPU

다음 표에서는 A100 40GB NVIDIA GPU에서 지원되는 MIG 프로필을 정의합니다.

파티셔닝 스키마 사용 가능한 파티션
1g.5gb 7x 1g.5gb
2g.10gb 3x 2g.10gb
3g.20gb 2x 3g.20gb
7g.40gb 1x 7g.40gb
mixed-1 1x 4g.20gb
1x 2g.10gb
1x 1g.5gb
mixed-2 1x 4g.20gb
3x 1g.5gb
mixed-3 1x 3g.20gb
2x 2g.10gb
mixed-4 1x 3g.20gb
1x 2g.10gb
2x 1g.5gb
mixed-5 1x 3g.20gb
4x 1g.5gb
mixed-6 3x 2g.10gb
1x 1g.5b
mixed-7 2x 2g.10gb
3x 1g.5b
mixed-8 1x 2g.10gb
5x 1g.5gb

A100 80GB GPU

다음 표에서는 A100 80GB NVIDIA GPU에서 지원되는 MIG 프로필을 정의합니다.

파티셔닝 스키마 사용 가능한 파티션
1g.10gb 7x 1g.10gb
2g.20gb 3x 2g.20gb
3g.40gb 2x 3g.40gb
7g.80gb 1x 7g.80gb
mixed-1 1x 4g.40gb
1x 2g.20gb
1x 1g.10gb
mixed-2 1x 4g.40gb
3x 1g.10gb
mixed-3 1x 3g.40gb
2x 2g.20gb
mixed-4 1x 3g.40gb
1x 2g.20gb
2x 1g.10gb
mixed-5 1x 3g.40gb
4x 1g.10gb
mixed-6 3x 2g.20gb
1x 1g.10gb
mixed-7 2x 2g.20gb
3x 1g.10gb
mixed-8 1x 2g.20gb
5x 1g.10gb

H100 94GB GPU

다음 표에서는 H100 94GB NVIDIA GPU에서 지원되는 MIG 프로필을 정의합니다.

파티셔닝 스키마 사용 가능한 파티션
1g.12gb 7x 1g.12gb
1g.24gb 7x 1g.24gb
2g.24gb 3x 2g.24gb
3g.47gb 2x 3g.47gb
4g.47gb 1x 4g.47gb
7g.94gb 1x 7g.94gb
mixed-1 1x 4g.47gb
1x 3g.47gb
mixed-2 1x 4g.47gb
1x 2g.24gb
1x 1g.12gb
mixed-3 1x 4g.47gb
3x 1g.12gb
mixed-4 1x 3g.47gb
2x 2g.24gb
mixed-5 1x 3g.47gb
1x 2g.24gb
2x 1g.12gb
mixed-6 1x 3g.47gb
4x 1g.12gb
mixed-7 3x 2g.24gb
1x 1g.12gb
mixed-8 2x 2g.24gb
3x 1g.12gb
mixed-9 1x 2g.24gb
5x 1g.12gb