GPU VM を使用する MIG を作成する

このドキュメントでは、GPU が接続された仮想マシン（VM）インスタンスを使用するマネージドインスタンスグループ（MIG）を作成する方法について説明します。サイズ変更リクエストと Flex Start プロビジョニングモデルを使用して、ゾーン MIG に GPU VM を一度にすべて追加する方法について説明します。予約を使用する MIG サイズ変更リクエストを作成する場合は、代わりに次の内容をご覧ください。

Cluster Director で利用可能な機能とサービスを使用して予約を使用するには、AI Hypercomputer のドキュメントで MIG とサイズ変更リクエストを作成するをご覧ください。
カレンダーモードで将来の予約の予約を使用するには、MIG でサイズ変更リクエストを作成するをご覧ください。

Flex Start プロビジョニングモデルで MIG サイズ変更リクエストを使用すると、GPU VM を取得できる可能性が高くなります。リクエストでは、GPU VM の数を指定する必要があります。基盤となるスケジューラメカニズムである Dynamic Workload Scheduler（DWS）は、リクエストされた期間とリソースの可用性に基づいて、作成されたサイズ変更リクエストを Compute Engine 全体でスケジューリングします。リソースが使用可能になると、MIG は VM を作成します。

リクエストされた期間が終わる前にジョブが終了した場合は、作成した VM を削除できます。それ以外の場合、MIG は実行期間が終わる際に VM を削除します。

MIG を作成するための基本的なシナリオもご覧ください。

始める前に

リクエストするリソースに十分な GPU 割り当てがあることを確認するには、GPU 割り当てを確認します。
割り当ての使用量については、GPU VM とプリエンプティブルの数量に基づく割り当てをご覧ください。
まだ設定していない場合は、認証を設定します。認証とは、 Google Cloud サービスと API にアクセスするために ID を確認するプロセスです。ローカル開発環境からコードまたはサンプルを実行するには、次のいずれかのオプションを選択して Compute Engine で認証を行います。

Select the tab for how you plan to use the samples on this page:
Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.
gcloud

制限事項

MIG サイズ変更リクエストを作成する際の制限事項を確認します。

MIG を作成して GPU VM を一度にすべて追加する

MIG を作成して、グループ内に GPU VM を一度にすべて追加するには、次の操作を行います。

インスタンステンプレートを作成します。これは MIG の作成に必要です。MIG は、インスタンステンプレートに基づいてグループに各 VM を作成します。テンプレートで、GPU VM の構成と、サイズ変更リクエストを使用するために必要な追加の構成を指定します。

インスタンステンプレートの詳細については、インスタンステンプレートについてをご覧ください。
MIG とサイズ変更リクエストを作成して、GPU VM を一度にすべて追加します。

インスタンステンプレートを作成する

このセクションの説明に従ってインスタンステンプレートを作成し、作成したテンプレートを使用して MIG を作成します。

このタスクに必要な権限

このタスクを行うには、次の権限が必要です。

instanceTemplates.insert メソッドを呼び出すのに必要なすべての権限

コンソール

[インスタンステンプレート] ページに移動します。

[インスタンステンプレート] に移動
[インスタンステンプレートを作成] をクリックします。[インスタンステンプレートの作成] ページが開きます。
[名前] フィールドに、インスタンステンプレートの名前を入力します。
[マシンの構成] セクションで、次の操作を行います。
1. [GPU] タブをクリックします。
2. [GPU のタイプ] リストで、GPU のタイプを選択します。
3. [GPU の数] リストで、GPU の数を選択します。
4. [マシンタイプ] セクションでマシンタイプを選択します。
[プロビジョニングモデル] セクションで、次の操作を行います。
1. [VM プロビジョニングモデル] リストで、[Flex Start] を選択します。
  
  注: Flex Start プロビジョニングモデルを選択すると、予約を使用できません。 Google Cloud コンソールで、[詳細オプション] > [管理] > [予約] セクションで [予約を使用しない] オプションが自動的に選択されます。
2. インスタンステンプレートによって作成される VM の実行時間を設定するには、[時間を入力] フィールドに時間数を入力します。値は 1 時間（1）～7 日間（168）の範囲で指定してください。
省略可: デフォルト値のブートディスクのタイプまたはイメージを変更するには、[ブートディスク] セクションで [変更] をクリックします。プロンプトに従ってブートディスクを変更します。
[作成] をクリックします。

gcloud

beta instance-templates create コマンドを使用してインスタンステンプレートを作成します。

gcloud beta compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --image-project=IMAGE_PROJECT \
    --image-family=IMAGE_FAMILY \
    --instance-termination-action=DELETE \
    --instance-template-region=REGION \
    --machine-type=MACHINE_TYPE \
    --maintenance-policy=TERMINATE \
    --max-run-duration=RUN_DURATION \
    --provisioning-model=FLEX_START \
    --reservation-affinity=none

次のように置き換えます。

INSTANCE_TEMPLATE_NAME: インスタンステンプレートの名前。
IMAGE_PROJECT: イメージを含むイメージプロジェクト（例: debian-cloud）。サポートされているイメージプロジェクトの詳細については、公開イメージをご覧ください。
IMAGE_FAMILY: イメージファミリー。これにより、非推奨ではない最新の OS イメージが指定されます。たとえば、debian-12 を指定すると、Debian 12 イメージファミリーの最新バージョンが使用されます。イメージファミリーの使用の詳細については、イメージファミリーのベストプラクティスをご覧ください。

注: debian-12-bookworm-v20240701 など、特定のバージョンの OS イメージを使用する場合は、--image-family フラグを --image フラグに置き換えます。
REGION: インスタンステンプレートを作成するリージョン。
MACHINE_TYPE: GPU をサポートするマシンタイプ。N1 マシンタイプを指定する場合は、--accelerator フラグを設定して、VM にアタッチする GPU の数とタイプを指定します。
RUN_DURATION: リクエストされた VM を実行する期間。値は、日数、時間、分、秒として指定し、その後にそれぞれ d、h、m、s を続ける必要があります。たとえば、30 分の場合は 30m を指定し、1 日と 2 時間 3 分 4 秒の場合は 1d2h3m4s を指定します。値は 10 分～7 日の範囲で指定してください。

REST

beta.instanceTemplates.insert メソッドに POST リクエストを送信してインスタンステンプレートを作成します。

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/instanceTemplates

{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "sourceImage": "projects/IMAGE_PROJECT/global/images/IMAGE
        }
      }
    ],
    "machineType": "MACHINE_TYPE",
    "networkInterfaces": [
      {
        "network": "global/networks/default"
      }
    ],
    "reservationAffinity": {
      "consumeReservationType": "NO_RESERVATION"
    },
    "scheduling": {
      "instanceTerminationAction": "DELETE",
      "maxRunDuration": {
        "seconds": RUN_DURATION
      },
      "onHostMaintenance": "TERMINATE",
      "provisioningModel": "FLEX_START"
    }
  }
}

次のように置き換えます。

PROJECT_ID: インスタンステンプレートを作成するプロジェクトの ID。
REGION: インスタンステンプレートを作成するリージョン。
INSTANCE_TEMPLATE_NAME: インスタンステンプレートの名前。
IMAGE_PROJECT: イメージを含むイメージプロジェクト（例: debian-cloud）。サポートされているイメージプロジェクトの詳細については、公開イメージをご覧ください。
IMAGE: 次のいずれかを指定します。
- OS イメージの特定のバージョン。例: debian-12-bookworm-v20240617。
- イメージファミリー。family/IMAGE_FAMILY の形式にする必要があります。これにより、非推奨ではない最新の OS イメージが指定されます。たとえば、family/debian-12 を指定すると、Debian 12 イメージファミリーの最新バージョンが使用されます。イメージファミリーの使用の詳細については、イメージファミリーのベストプラクティスをご覧ください。
MACHINE_TYPE: GPU をサポートするマシンタイプ。N1 マシンタイプを指定する場合は、guestAccelerators フィールドを配置して、VM にアタッチする GPU の数とタイプを指定します。
RUN_DURATION: リクエストされた VM が MIG によって自動的に削除されるまでの実行期間（秒単位）。値は 600（600 秒、10 分）～604800（604,800 秒、7 日間）の範囲で指定する必要があります。

インスタンステンプレートを作成したら、表示して ID を確認し、インスタンスプロパティを確認できます。

MIG を作成して GPU VM を一度にすべて追加する

このセクションの説明に従って MIG を作成します。MIG でサイズ変更リクエストを作成するには、自動スケーリングを構成せず、修復をオフにする必要があります。

このタスクに必要な権限

このタスクを行うには、次の権限が必要です。

instanceGroupManagers.insert メソッドを呼び出すのに必要なすべての権限

コンソール

[インスタンスグループ] ページに移動します。

[インスタンスグループ] に移動
[インスタンスグループを作成] をクリックします。[インスタンスグループの作成] ページが開きます。
[名前] フィールドに、MIG の名前を入力します。
インスタンステンプレートを選択する前に、自動スケーリングの構成を削除し、次のように修復を無効にする必要があります。
1. 自動スケーリング構成を削除するには、次の操作を行います。
  1. [自動スケーリング] セクションで、[自動スケーリングモード] リストをクリックし、[自動スケーリングの構成を削除] をクリックします。
  2. 確認ダイアログで [削除] をクリックします。
2. 修復を無効にするには、[VM インスタンスのライフサイクル] セクションで、[障害発生時のデフォルトのアクション] リストをクリックして、[アクションなし] を選択します。
[インスタンステンプレート] フィールドに戻ります。[インスタンステンプレート] リストで、前のセクションで作成したインスタンステンプレートを選択します。
次のいずれかを行います。
- MIG でサイズ変更リクエストを作成するには、次の操作を行います。
  1. [インスタンス数] フィールドに、一度に作成する VM の数を入力します。
  2. [サイズ変更リクエストを使用して VM を一度に作成する] チェックボックスを選択します。
  3. 省略可: インスタンステンプレートで設定された実行時間とは異なる実行時間を VM に指定するには、[リクエストされた実行時間] フィールドと [単位] リストで期間を指定します。期間は 1 時間～7 日の範囲で指定してください。
- MIG の作成後にサイズ変更リクエストを作成するには、[インスタンス数] フィールドに「0」と入力します。
[ロケーション] セクションで、ゾーン MIG またはリージョン MIG を作成するかどうかを次のように指定します。
1. ゾーン MIG を作成するには、[単一ゾーン] を選択します。リージョン MIG を作成する場合は、[マルチゾーン] を選択します。
2. MIG のリージョンとゾーンを選択します。
3. リージョン MIG を作成する場合は、次の操作を行います。
  1. [ターゲット分配形態] フィールドで、[任意のシングルゾーン] を選択します。
  2. 表示されたダイアログで、[インスタンスの再分配を無効化] をクリックします。
[作成] をクリックします。

gcloud

instance-groups managed create コマンドを使用して、ゾーン MIG を作成します。

gcloud compute instance-groups managed create INSTANCE_GROUP_NAME \
   --template=INSTANCE_TEMPLATE_URL \
   --size=0 \
   --zone=ZONE \
   --default-action-on-vm-failure=do_nothing

MIG で、instance-groups managed resize-requests create コマンドを使用してサイズ変更リクエストを作成します。必要な GPU VM の数と、それらの VM を実行する期間を指定します。
```
gcloud compute instance-groups managed resize-requests create INSTANCE_GROUP_NAME \
   --resize-request=RESIZE_REQUEST_NAME \
   --resize-by=COUNT \
   --zone=ZONE
```

次のように置き換えます。

INSTANCE_GROUP_NAME: MIG の名前。
INSTANCE_TEMPLATE_URL: MIG で VM の作成に使用するインスタンステンプレートの URL。この URL には、インスタンステンプレートの ID または名前を含めることができます。次のいずれかの値を指定します。
- リージョンインスタンステンプレートの場合: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
- グローバルインスタンステンプレートの場合: INSTANCE_TEMPLATE_ID
ZONE: Compute Engine で使用できるゾーンのいずれか。
RESIZE_REQUEST_NAME: サイズ変更リクエストの名前。
COUNT: グループに一度にすべて追加する VM の数。

REST

instanceGroupManagers.insert メソッドに POST リクエストを送信して、ゾーン MIG を作成します。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers

{
 "versions": [
   {
     "instanceTemplate": "INSTANCE_TEMPLATE_URL"
   }
 ],
 "name": "INSTANCE_GROUP_NAME",
 "targetSize": 0,
 "instanceLifecyclePolicy": {
   "defaultActionOnFailure": "DO_NOTHING"
 }
}

MIG で、instanceGroupManagerResizeRequests.insert メソッドに POST リクエストを送信してサイズ変更リクエストを作成します。リクエストの本文で、一度にすべて作成する GPU VM の数と、それらの VM を実行する期間を指定します。
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/INSTANCE_GROUP_NAME/resizeRequests

{
 "name": "RESIZE_REQUEST_NAME",
 "resizeBy": COUNT
}
```

次のように置き換えます。

PROJECT_ID: MIG を作成するプロジェクトの ID。
INSTANCE_GROUP_NAME: MIG の名前。
INSTANCE_TEMPLATE_URL: MIG で VM の作成に使用するインスタンステンプレートの URL。この URL には、インスタンステンプレートの ID または名前を含めることができます。次のいずれかの値を指定します。
- リージョンインスタンステンプレートの場合: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
- グローバルインスタンステンプレートの場合: INSTANCE_TEMPLATE_ID
ZONE: Compute Engine で使用できるゾーンのいずれか。
RESIZE_REQUEST_NAME: サイズ変更リクエストの名前。
COUNT: グループに一度にすべて追加する VM の数。

作成するサイズ変更リクエストは、MIG がリクエストされたすべての GPU VM を作成するまで ACCEPTED 状態で保持されます。グループ内にすべての GPU VM が作成されると、リクエストの状態が SUCCEEDED に変わります。

次のステップ

MIG でのサイズ変更リクエストの仕組みを確認する。
サイズ変更リクエストと互換性のあるリージョン MIG を作成する方法（プレビュー）を学習する。
MIG でサイズ変更リクエストを表示、キャンセル、削除する方法を確認する。
MIG とマネージド VM に関する情報を表示する方法を確認する。

VM と GPU の実際の使用量と予測される使用量を表示する方法を確認する。

GPU VM を使用する MIG を作成する コレクションでコンテンツを整理 必要に応じて、コンテンツの保存と分類を行います。

始める前に

Console

gcloud

REST

制限事項

MIG を作成して GPU VM を一度にすべて追加する

インスタンス テンプレートを作成する

このタスクに必要な権限

コンソール

gcloud

REST

MIG を作成して GPU VM を一度にすべて追加する

このタスクに必要な権限

コンソール

gcloud

REST

次のステップ

GPU VM を使用する MIG を作成する

インスタンステンプレートを作成する