Google Distributed Cloud (GDC) 오프라인에서 Kubernetes 클러스터를 만들면 클러스터에서 컨테이너 워크로드를 실행하는 노드 풀이 생성됩니다. 컨테이너 워크로드 요구사항에 따라 노드를 프로비저닝하고 요구사항이 변경되면 업데이트할 수 있습니다.
GDC는 노드 풀을 추가할 때 선택할 수 있는 작업자 노드용 사전 정의된 머신 유형을 제공합니다. 멀티 인스턴스 GPU (MIG) 기능을 사용하여 별도의 GPU 인스턴스를 파티셔닝하는 방법도 여러 가지가 있습니다.
사용 가능한 머신 유형 및 GPU 지원은 다음 섹션을 참고하세요.
사용 가능한 머신 유형
GDC는 CPU, 메모리, GPU를 포함하는 Kubernetes 클러스터 노드의 일부 매개변수를 사용하여 머신 유형을 정의합니다.
GDC에는 다양한 용도의 여러 머신 유형이 있습니다.
예를 들어 클러스터는 범용 컨테이너 워크로드에 n2-standard-4-gdc를 사용합니다. 인공지능 (AI) 및 머신러닝 (ML) 노트북을 실행하려면 a2-highgpu-1g-gdc와 같은 GPU 머신을 프로비저닝해야 합니다.
다음은 Kubernetes 클러스터 작업자 노드에 사용할 수 있는 모든 GDC 사전 정의된 머신 유형의 목록입니다.
| 이름 | vCPU | 메모리 | GPU |
|---|---|---|---|
| n2-standard-4-gdc | 4 | 16G | 해당 사항 없음 |
| n2-standard-8-gdc | 8 | 32G | 해당 사항 없음 |
| n2-standard-16-gdc | 16 | 64G | 해당 사항 없음 |
| n2-standard-32-gdc | 32 | 128G | 해당 사항 없음 |
| n2-highmem-4-gdc | 4 | 32G | 해당 사항 없음 |
| n2-highmem-8-gdc | 8 | 64G | 해당 사항 없음 |
| n2-highmem-16-gdc | 16 | 128G | 해당 사항 없음 |
| n2-highmem-32-gdc | 32 | 256G | 해당 사항 없음 |
| a2-highgpu-1g-gdc | 12 | 85G | 1x A100 40GB |
| a2-ultragpu-1g-gdc | 12 | 170G | A100 80GB 1개 |
| a2-ultragpu-2g-gdc | 24 | 340G | 2x A100 80GB |
| a3-highgpu-1g-gdc | 28 | 240G | 1x H100 94GB |
| a3-highgpu-2g-gdc | 56 | 480G | 2x H100 94GB |
| a3-highgpu-4g-gdc | 112 | 960G | 4x H100 94GB |
지원되는 MIG 프로필
이 섹션에서는 지원되는 GPU에서 MIG 프로필의 지원되는 파티셔닝 스키마를 정의합니다. Cluster 커스텀 리소스에서 노드 풀의 파티셔닝 스키마를 정의할 수 있습니다.
GPU 파티셔닝 스키마를 적용하는 방법에 관한 자세한 내용은 노드 풀 추가를 참고하세요.
A100 40GB GPU
다음 표에서는 A100 40GB NVIDIA GPU에서 지원되는 MIG 프로필을 정의합니다.
| 파티셔닝 스키마 | 사용 가능한 파티션 |
|---|---|
| 1g.5gb | 7x 1g.5gb |
| 2g.10gb | 3x 2g.10gb |
| 3g.20gb | 2x 3g.20gb |
| 7g.40gb | 1x 7g.40gb |
| mixed-1 | 1x 4g.20gb 1x 2g.10gb 1x 1g.5gb |
| mixed-2 | 1x 4g.20gb 3x 1g.5gb |
| mixed-3 | 1x 3g.20gb 2x 2g.10gb |
| mixed-4 | 1x 3g.20gb 1x 2g.10gb 2x 1g.5gb |
| mixed-5 | 1x 3g.20gb 4x 1g.5gb |
| mixed-6 | 3x 2g.10gb 1x 1g.5b |
| mixed-7 | 2x 2g.10gb 3x 1g.5b |
| mixed-8 | 1x 2g.10gb 5x 1g.5gb |
A100 80GB GPU
다음 표에서는 A100 80GB NVIDIA GPU에서 지원되는 MIG 프로필을 정의합니다.
| 파티셔닝 스키마 | 사용 가능한 파티션 |
|---|---|
| 1g.10gb | 7x 1g.10gb |
| 2g.20gb | 3x 2g.20gb |
| 3g.40gb | 2x 3g.40gb |
| 7g.80gb | 1x 7g.80gb |
| mixed-1 | 1x 4g.40gb 1x 2g.20gb 1x 1g.10gb |
| mixed-2 | 1x 4g.40gb 3x 1g.10gb |
| mixed-3 | 1x 3g.40gb 2x 2g.20gb |
| mixed-4 | 1x 3g.40gb 1x 2g.20gb 2x 1g.10gb |
| mixed-5 | 1x 3g.40gb 4x 1g.10gb |
| mixed-6 | 3x 2g.20gb 1x 1g.10gb |
| mixed-7 | 2x 2g.20gb 3x 1g.10gb |
| mixed-8 | 1x 2g.20gb 5x 1g.10gb |
H100 94GB GPU
다음 표에서는 H100 94GB NVIDIA GPU에서 지원되는 MIG 프로필을 정의합니다.
| 파티셔닝 스키마 | 사용 가능한 파티션 |
|---|---|
| 1g.12gb | 7x 1g.12gb |
| 1g.24gb | 7x 1g.24gb |
| 2g.24gb | 3x 2g.24gb |
| 3g.47gb | 2x 3g.47gb |
| 4g.47gb | 1x 4g.47gb |
| 7g.94gb | 1x 7g.94gb |
| mixed-1 | 1x 4g.47gb 1x 3g.47gb |
| mixed-2 | 1x 4g.47gb 1x 2g.24gb 1x 1g.12gb |
| mixed-3 | 1x 4g.47gb 3x 1g.12gb |
| mixed-4 | 1x 3g.47gb 2x 2g.24gb |
| mixed-5 | 1x 3g.47gb 1x 2g.24gb 2x 1g.12gb |
| mixed-6 | 1x 3g.47gb 4x 1g.12gb |
| mixed-7 | 3x 2g.24gb 1x 1g.12gb |
| mixed-8 | 2x 2g.24gb 3x 1g.12gb |
| mixed-9 | 1x 2g.24gb 5x 1g.12gb |