GPU VM を使用する MIG を作成する

このドキュメントでは、GPU VM を使用するマネージドインスタンスグループ（MIG）を作成する方法について説明します。サイズ変更リクエストを使用してグループに GPU VM を一度にすべて追加する方法について説明します。

サイズ変更リクエストを使用すると、MIG 内の GPU VM の入手可能性が向上します。リクエストでは、GPU VM の数と、それらの VM を実行する期間を指定します。基盤となるスケジューラメカニズムである Dynamic Workload Scheduler（DWS）は、リクエストされた期間とリソースの可用性に基づいて、作成されたサイズ変更リクエストを Compute Engine 全体でスケジューリングします。リソースが使用可能になると、MIG は自動的に VM を作成します。

これらの VM で実行されているジョブがリクエストされた期間の終了時点に到達するよりする前に終了した場合は、それらの VM を削除できます。それ以外の場合、MIG は期間の終了時に VM を自動的に削除します。

MIG を作成するための基本的なシナリオもご覧ください。

始める前に

リクエストするリソースに十分な GPU 割り当てがあることを確認するには、GPU 割り当てを確認します。
まだ設定していない場合は、認証を設定します。認証とは、Google Cloud サービスと API にアクセスするために ID を確認するプロセスです。ローカル開発環境からコードまたはサンプルを実行するには、次のように Compute Engine に対する認証を行います。

このページのサンプルをどのように使うかに応じて、タブを選択してください。
コンソール

Google Cloud コンソールを使用して Google Cloud サービスと API にアクセスする場合、認証を設定する必要はありません。
gcloud
1. Google Cloud CLI をインストールし、次のコマンドを実行して初期化します。
```
gcloud init
```
  注: すでに gcloud CLI をインストールしている場合は、gcloud components update を実行して、最新バージョンがインストールされていることを確認してください。
2. デフォルトのリージョンとゾーンを設定します。
REST

このページの REST API サンプルをローカル開発環境で使用するには、gcloud CLI に指定した認証情報を使用します。

制限事項

MIG でサイズ変更リクエストを作成する際の制限事項を確認します。

MIG を作成して GPU VM を一度にすべて追加する

MIG を作成して、グループ内に GPU VM を一度にすべて追加するには、次の操作を行います。

インスタンステンプレートを作成します。これは MIG の作成に必要です。MIG は、インスタンステンプレートに基づいてグループに各 VM を作成します。テンプレートで、GPU VM の構成と、サイズ変更リクエストを使用するために必要な追加の構成を指定します。

インスタンステンプレートの詳細については、インスタンステンプレートについてをご覧ください。
MIG とサイズ変更リクエストを作成して、GPU VM を一度にすべて追加します。

インスタンステンプレートの作成

このセクションの説明に従ってインスタンステンプレートを作成し、作成したテンプレートを使用して MIG を作成します。

このタスクに必要な権限

このタスクを行うには、次の権限が必要です。

instanceTemplates.insert メソッドを呼び出すのに必要なすべての権限

コンソール

[インスタンステンプレート] ページに移動します。

[インスタンステンプレート] に移動
[インスタンステンプレートを作成] をクリックします。
[名前] フィールドに、インスタンステンプレートの名前を入力します。
[マシンの構成] セクションで、次の操作を行います。
1. [GPU] タブをクリックします。
2. [GPU のタイプ] リストで、GPU のタイプを選択します。
3. [GPU の数] リストで、GPU の数を選択します。
4. [マシンタイプ] リストで、マシンタイプを選択します。
[詳細オプション] セクションを開き、次の操作を行います。
1. [管理] セクションを開きます。
2. [予約] リストで、[使用しない] を選択します。
[作成] をクリックします。

gcloud

instance-templates create コマンドを使用して、インスタンステンプレートを作成します。

次のコマンドは、グローバルインスタンステンプレートを作成します。

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=none

次のように置き換えます。

INSTANCE_TEMPLATE_NAME: インスタンステンプレートの名前。
MACHINE_TYPE: GPU をサポートするマシンタイプ。N1 マシンタイプを指定する場合は、--accelerator フラグを設定して、VM にアタッチする GPU の数とタイプを指定します。

REST

instanceTemplates.insert メソッドに POST リクエストを送信してインスタンステンプレートを作成します。

次のリクエストでは、グローバルインスタンステンプレートを作成します。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/global/instanceTemplates

{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "disks": [
      {
        "boot": true,
        "mode": "READ_WRITE",
        "type": "PERSISTENT",
        "initializeParams": {
          "sourceImage": "projects/debian-cloud/global/images/family/debian-10"
        }
      }
    ],
    "machineType": "MACHINE_TYPE",
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-IP",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "global/networks/default"
      }
    ],
    "reservationAffinity": {
      "consumeReservationType": "NO_RESERVATION"
    },
    "scheduling": {
      "onHostMaintenance": "TERMINATE"
    }
  }
}

次のように置き換えます。

PROJECT_ID: MIG を作成するプロジェクトの ID。
INSTANCE_TEMPLATE_NAME: インスタンステンプレートの名前。
MACHINE_TYPE: GPU をサポートするマシンタイプ。N1 マシンタイプを指定する場合は、guestAccelerators フィールドを配置して、VM にアタッチする GPU の数とタイプを指定します。

MIG を作成して GPU VM を一度にすべて追加する

このセクションの説明に従って MIG を作成します。MIG でサイズ変更リクエストを使用するには、自動スケーリングを構成せず、修復をオフにする必要があります。

このタスクに必要な権限

このタスクを行うには、次の権限が必要です。

instanceGroupManagers.insert メソッドを呼び出すのに必要なすべての権限

コンソール

[インスタンスグループ] ページに移動します。

[インスタンスグループ] に移動
[インスタンスグループを作成] をクリックします。
次のフィールドを入力します。
1. 名前: グループの名前を入力します。
2. インスタンステンプレート: 前のセクションで構成したインスタンステンプレートを選択します。
3. [ロケーション] セクションで次の操作を行います。
  1. [シングルゾーン] を選択します。
  2. [リージョン] と [ゾーン] で、グループを作成するロケーションを選択します。
次のステップで自動スケーリングの構成を削除すると、[インスタンス数] フィールドが編集可能になります。
自動スケーリングの構成を削除します。
1. [自動スケーリング] セクションで、[自動スケーリングモード] リストをクリックし、[自動スケーリングの構成を削除] をクリックします。
2. [自動スケーリング構成を削除しますか？] ダイアログで、[削除] をクリックします。
MIG で修復をオフにします。

[VM インスタンスのライフサイクル] セクションで、[障害発生時のデフォルトのアクション] フィールドを [アクションなし] に設定します。
サイズ変更リクエストを作成するため GPU VM の数と実行期間を指定します。
1. [インスタンス数] フィールドに、一度に作成する GPU VM の数を入力します。
2. [Use resize request to create VMs all at once] チェックボックスをオンにします。実行期間を入力するフィールドが表示されます。
3. [リクエストされた実行時間] フィールドと [単位] リストを使用して、GPU VM の実行期間を指定します。期間は 1 時間から 7 日の範囲で指定してください。
[作成] をクリックします。

gcloud

instance-groups managed create コマンドを使用して、ゾーン MIG を作成します。

gcloud compute instance-groups managed create INSTANCE_GROUP_NAME \
   --template=INSTANCE_TEMPLATE_NAME \
   --size=0 \
   --zone=ZONE \
   --default-action-on-vm-failure=do_nothing

MIG で、ベータ版の instance-groups managed resize-requests create コマンドを使用してサイズ変更リクエストを作成します。必要な GPU VM の数と、それらの VM を実行する期間を指定します。
```
gcloud beta compute instance-groups managed resize-requests create INSTANCE_GROUP_NAME \
   --resize-request=RESIZE_REQUEST_NAME \
   --resize-by=COUNT \
   --requested-run-duration=RUN_DURATION\
   --zone=ZONE
```

次のように置き換えます。

INSTANCE_GROUP_NAME: MIG の名前。
INSTANCE_TEMPLATE_NAME: GPU VM のインスタンステンプレートの名前。
ZONE: Compute Engine で使用できるゾーンのいずれか。
RESIZE_REQUEST_NAME: サイズ変更リクエストの名前。
COUNT: グループに一度にすべて追加する VM の数。
RUN_DURATION: リクエストされた VM を実行する期間。値は、日数、時間、分、秒として指定し、その後にそれぞれ d、h、m、s を配置する必要があります。たとえば、30 分の場合は 30m を指定し、1 日と 2 時間 3 分 4 秒の場合は 1d2h3m4s を指定します。値は 10 分～7 日の範囲で指定してください。

REST

instanceGroupManagers.insert メソッドに POST リクエストを送信して、ゾーン MIG を作成します。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers

{
 "versions": [
   {
     "instanceTemplate": "global/instanceTemplates/INSTANCE_TEMPLATE_NAME"
   }
 ],
 "name": "INSTANCE_GROUP_NAME",
 "targetSize": 0,
 "instanceLifecyclePolicy": {
   "defaultActionOnFailure": "DO_NOTHING"
 }
}

MIG で、ベータ版の instanceGroupManagerResizeRequests.insert メソッドに POST リクエストを送信してサイズ変更リクエストを作成します。リクエストの本文で、一度にすべて作成する GPU VM の数と、それらの VM を実行する期間を指定します。
```
POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/INSTANCE_GROUP_NAME/resizeRequests

{
 "name": "RESIZE_REQUEST_NAME",
 "resizeBy": COUNT,
 "requestedRunDuration": {
   "seconds": "RUN_DURATION"
 }
}
```

次のように置き換えます。

PROJECT_ID: MIG を作成するプロジェクトの ID。
INSTANCE_GROUP_NAME: MIG の名前。
INSTANCE_TEMPLATE_NAME: GPU VM のインスタンステンプレートの名前。
ZONE: Compute Engine で使用できるゾーンのいずれか。
RESIZE_REQUEST_NAME: サイズ変更リクエストの名前。
COUNT: グループに一度にすべて追加する VM の数。
RUN_DURATION: リクエストされた VM が MIG によって自動的に削除されるまでの実行期間（秒単位）。値は 600（600 秒、10 分）から 604800（604,800 秒、7 日間）の範囲で指定する必要があります。

作成するサイズ変更リクエストは、MIG がリクエストされたすべての GPU VM を作成するまで ACCEPTED 状態で保持されます。グループ内にすべての GPU VM が作成されると、リクエストの状態が SUCCEEDED に変わります。

GPU VM を使用する MIG を作成する

始める前に

コンソール

gcloud

REST

制限事項

MIG を作成して GPU VM を一度にすべて追加する

インスタンス テンプレートの作成

このタスクに必要な権限

コンソール

gcloud

REST

MIG を作成して GPU VM を一度にすべて追加する

このタスクに必要な権限

コンソール

gcloud

REST

次のステップ

インスタンステンプレートの作成