MIG의 크기 조절 요청 개요

이 문서에서는 관리형 인스턴스 그룹(MIG)의 크기 조절 요청이 작동하는 방식과 제한사항에 대해 설명합니다. 크기 조절 요청을 사용하여 MIG에서 GPU가 포함된 가상 머신(VM) 인스턴스를 한꺼번에 만들 수 있습니다.

크기 조절 요청을 통해 MIG에서 한 번에 VM을 만드는 것은 다음과 같은 경우에 유용합니다.

  • 특정 시간에만 GPU VM을 원하는 경우 크기 조절 요청을 수행하면 수요가 많은 리소스인 GPU를 확보할 수 있습니다.

  • 정확한 수의 VM이 작업을 실행할 때는 크기 조절 요청을 사용하여 VM을 한꺼번에 만들 수 있습니다. 크기 조절 요청을 사용하면 모든 리소스가 가용해 지기를 기다리는 동안 Compute Engine에서 생성하는 부분적인 용량으로 인해 불필요한 비용이 발생하는 것을 방지할 수도 있습니다.

크기 조절 요청 작동 방식

크기 조절 요청을 만들 때 다음을 지정해야 합니다.

  • resizeBy: 요청의 일부로서 한꺼번에 만들려는 VM 수입니다.

  • requestedRunDuration: 요청의 일부로 생성된 VM을 실행해야 하는 기간입니다. 실행 기간은 10분~7일 사이여야 합니다. 실행 기간이 종료되면 MIG는 생성된 VM을 삭제합니다.

MIG에서 크기 조절 요청을 만들면 Compute Engine에서 요청 상태를 CREATING으로 설정한 다음 요청이 생성되면 ACCEPTED로 전환합니다. 기본 스케줄러 메커니즘인 동적 워크로드 스케줄러(DWS)는 요청된 기간 및 리소스 가용성을 기반으로 Compute Engine 전반에서 생성된 크기 조절 요청을 예약합니다.

DWS가 요청된 수의 VM 생성을 예약하면 MIG는 요청된 VM 수만큼 대상 크기를 늘리고 CREATING 상태의 관리형 인스턴스를 만듭니다. 이러한 관리형 인스턴스는 크기 조절 요청이 성공하면 MIG가 만들 VM을 나타냅니다. 크기 조절 요청을 취소하지 않는 한 CREATING 상태의 관리형 인스턴스를 삭제할 수 없습니다.

요청된 리소스의 할당량이 부족하거나 리소스를 일시적으로 사용할 수 없는 경우 DWS는 할당량이 충분해지고 리소스를 사용할 수 있을 때까지 요청을 유지합니다.

허용된 크기 조절 요청은 Compute Engine에서 상태를 다음 중 하나로 설정할 때까지 그대로 유지됩니다.

  • SUCCEEDED: MIG가 요청된 수의 VM을 한꺼번에 만들었음. VM은 지정된 실행 기간이 종료되어 MIG에서 삭제되거나 사용자가 VM을 삭제할 때까지 실행됩니다.

  • FAILED: 기술 오류로 인해 크기 조절 요청이 실패했고 Compute Engine이 요청된 VM 수만큼 MIG의 대상 크기를 줄임

  • CANCELLED: 사용자가 크기 조절 요청을 취소했고 Compute Engine이 요청된 VM 수만큼 MIG의 대상 크기를 줄임. 수락된 크기 조절 요청으로 인해 VM이 생성되지 않도록 하려면 크기 조절 요청을 취소한 다음 원하는 경우 삭제하면 됩니다. 취소된 크기 조절 요청을 삭제하지 않으면 Compute Engine에서 취소된 후 14일 후에 자동으로 삭제합니다.

수락된 크기 조절 요청의 상태를 확인하거나 문제를 해결하려면 크기 조절 요청의 세부정보를 확인하세요.

크기 조절 요청이 포함된 MIG를 삭제하면 MIG의 크기 조절 요청과 VM도 삭제됩니다. 하지만 MIG에서 크기 조절 요청을 처리하기 위해 VM을 만들 때 MIG를 삭제하면 Compute Engine은 MIG에서 요청된 수의 VM을 만들고 크기 조절 요청 상태가 SUCCEEDED으로 전환될 때까지 기다렸다가 MIG를 삭제합니다.

제한사항

다음 섹션에서는 MIG에서 크기 조절 요청을 만들 때 적용되는 제한사항을 간략히 설명합니다.

크기 조절 요청 제한사항

크기 조절 요청에는 다음과 같은 제한사항이 적용됩니다.

  • 크기 조절 요청으로는 GPU VM만 확보할 수 있습니다.

  • 영역 MIG에서만 크기 조절 요청을 생성할 수 있습니다.

  • 수락된(ACCEPTED) 크기 조절 요청만 취소할 수 있습니다.

  • 크기 조절 요청이 성공(SUCCEEDED), 실패(FAILED), 사용자가 취소(CANCELLED)한 후에만 크기 조절 요청을 삭제할 수 있습니다.

인스턴스 템플릿 제한사항

크기 조절 요청을 만들려는 MIG에서 사용되는 인스턴스 템플릿에는 다음과 같은 제한사항이 적용됩니다.

MIG 제한사항

크기 조절 요청을 만들려는 MIG에는 다음과 같은 제한사항이 적용됩니다.

요청된 실행 기간이 있는 GPU VM의 할당량

7일 이하의 사전 정의된 실행 시간 후 자동으로 삭제되도록 구성된 GPU VM은 선점형 또는 표준 배정 할당량 중 하나를 소비할 수 있습니다. 이 동작은 일시적이지만 중단되지 않은 워크로드의 배정 할당량 확보 가능성을 개선하는 데 도움이 되도록 고안되었습니다. 이 동작에 대한 자세한 내용은 GPU VM 및 선점형 배정 할당량을 참조하세요.

가격 책정

크기 조절 요청을 생성, 취소 또는 삭제하는 데는 비용이 들지 않습니다. 크기 조절 요청을 통해 생성된 VM에 대해서만 요금이 청구됩니다. MIG가 VM을 생성하는 순간부터 실행 기간이 종료되어 MIG가 VM을 자동으로 삭제할 때까지 또는 사용자가 VM을 수동으로 삭제할 때까지 요금이 청구됩니다.

MIG가 요청된 VM 중 일부만 만들고 나머지 VM을 만들지 못하는 경우 MIG가 자동으로 VM을 삭제할 때까지 생성된 VM에 대한 요금이 계속 청구될 수 있습니다.

다음 단계