MIG의 크기 조절 요청 정보

이 문서에서는 관리형 인스턴스 그룹(MIG)의 크기 조절 요청이 작동하는 방식과 제한사항에 대해 설명합니다. 크기 조절 요청을 사용하여 MIG에서 GPU가 포함된 가상 머신(VM) 인스턴스를 한꺼번에 만들 수 있습니다.

크기 조절 요청을 통해 MIG에서 한 번에 VM을 만드는 것은 다음과 같은 경우에 유용합니다.

  • 특정 시간에만 GPU VM을 원하는 경우 크기 조절 요청을 수행하면 수요가 많은 리소스를 확보할 수 있습니다.

  • 정확한 수의 VM이 작업을 실행할 때는 크기 조절 요청을 사용하여 VM을 한꺼번에 만들 수 있습니다. 이렇게 하면 모든 리소스가 사용 가능해질 때까지 기다리는 동안 Compute Engine에서 생성하는 부분적인 용량으로 인해 불필요한 비용이 발생하는 것을 방지할 수 있습니다.

크기 조절 요청 작동 방식

다음 섹션에서는 크기 조절 요청의 작동 방식을 간략히 설명합니다.

생성 시

크기 조절 요청을 만들 때 다음 속성을 지정해야 합니다.

  • resizeBy: 요청의 일부로서 한꺼번에 만들려는 VM 수입니다.

  • requestedRunDuration: 요청의 일부로 생성된 VM을 실행해야 하는 기간입니다. 실행 기간은 10분~7일 사이여야 합니다. 실행 기간이 종료되면 MIG는 생성된 VM을 자동으로 삭제합니다.

생성 후

크기 조절 요청을 만들면 Compute Engine에서 상태를 다음과 같이 변경합니다.

  • CREATING: Compute Engine에서 크기 조절 요청을 만들고 있으며 MIG의 대상 크기가 요청에 지정된 VM 수만큼 증가하며 MIG는 CREATING 상태의 관리형 인스턴스를 만듭니다. 이러한 관리형 인스턴스는 크기 조절 요청이 성공하면 MIG가 만드는 VM을 나타냅니다.

  • ACCEPTED: 요청이 생성되고 승인되었습니다. 기본 스케줄러 메커니즘인 동적 워크로드 스케줄러 (DWS)는 리소스 가용성과 요청에 지정된 실행 기간을 기반으로 요청된 리소스의 생성을 예약합니다. 요청된 리소스의 할당량이 부족하거나 리소스를 일시적으로 사용할 수 없는 경우 DWS는 할당량이 충분해지고 리소스를 사용할 수 있을 때까지 요청을 유지합니다.

  • SUCCEEDED: MIG가 요청된 수의 VM을 한꺼번에 만들었음. VM은 지정된 실행 기간이 종료되어 MIG에서 삭제되거나 사용자가 VM을 삭제할 때까지 실행됩니다.

  • FAILED: 기술 오류로 인해 크기 조절 요청이 실패했고 Compute Engine이 요청된 VM 수만큼 MIG의 대상 크기를 줄임

  • CANCELLED: 사용자가 크기 조절 요청을 취소했습니다. 크기 조절 요청을 취소하면 MIG가 요청된 리소스를 만들지 않습니다. 크기 조절 요청을 취소하면 Compute Engine은 요청된 VM 수만큼 MIG의 대상 크기를 줄이고 14일 후에 요청을 자동으로 삭제합니다. 원하는 경우 Compute Engine에서 자동으로 삭제하기 전에 크기 조절 요청을 삭제할 수 있습니다.

크기 조절 요청이 포함된 MIG를 삭제하면 MIG의 크기 조절 요청과 VM도 삭제됩니다. 하지만 MIG에서 크기 조절 요청을 처리하기 위해 VM을 만들 때 MIG를 삭제하면 Compute Engine은 MIG에서 요청된 수의 VM을 만들고 크기 조절 요청 상태가 SUCCEEDED으로 전환될 때까지 기다렸다가 MIG를 삭제합니다.

제한사항

다음 섹션에서는 MIG에서 크기 조절 요청을 만들 때 적용되는 제한사항을 간략히 설명합니다.

크기 조절 요청

크기 조절 요청에는 다음과 같은 제한사항이 적용됩니다.

  • 크기 조절 요청으로는 GPU VM만 확보할 수 있습니다.

  • 수락된(ACCEPTED) 크기 조절 요청만 취소할 수 있습니다.

  • 크기 조절 요청이 성공(SUCCEEDED), 실패(FAILED), 사용자가 취소(CANCELLED)한 후에만 크기 조절 요청을 삭제할 수 있습니다.

인스턴스 템플릿

크기 조절 요청을 만들려는 MIG에서 사용되는 인스턴스 템플릿에는 다음과 같은 제한사항이 적용됩니다.

MIG

크기 조절 요청을 만들려는 MIG에는 다음과 같은 제한사항이 적용됩니다.

요청된 실행 기간이 있는 GPU VM의 할당량

7일 이하의 사전 정의된 실행 시간 후 자동으로 삭제되도록 구성된 GPU VM은 선점형 또는 표준 배정 할당량 중 하나를 소비할 수 있습니다. 이 동작은 일시적이지만 중단되지 않은 워크로드의 배정 할당량 확보 가능성을 개선하는 데 도움이 되도록 고안되었습니다. 이 동작에 대한 자세한 내용은 GPU VM 및 선점형 배정 할당량을 참조하세요.

가격 책정

크기 조절 요청을 생성, 취소 또는 삭제하는 데는 비용이 들지 않습니다. 크기 조절 요청을 통해 생성된 VM에 대해서만 요금이 청구됩니다. MIG가 VM을 생성하는 순간부터 실행 기간이 종료되어 MIG가 VM을 자동으로 삭제할 때까지 또는 사용자가 VM을 수동으로 삭제할 때까지 요금이 청구됩니다.

MIG가 요청된 VM 중 일부만 만들고 나머지 VM을 만들지 못하는 경우 MIG가 자동으로 VM을 삭제할 때까지 생성된 VM에 대한 요금이 계속 청구될 수 있습니다.

다음 단계