A3 Ultra インスタンスまたは A4 インスタンスを作成する

このドキュメントでは、A3 Ultra または A4 マシンシリーズで GPU が割り当てられたインスタンスの作成方法について説明します。GPU が割り当てられたインスタンスの作成の詳細については、GPU が割り当てられたインスタンスの作成の概要をご覧ください。

始める前に

GPU が割り当てられたインスタンスの作成に関する制限事項とその他の前提条件（OS イメージの選択方法や GPU の割り当ての確認方法など）を確認するには、GPU が割り当てられたインスタンスの作成の概要をご覧ください。
まだ設定していない場合は、認証を設定します。認証とは、 Google Cloud サービスと API にアクセスするために ID を確認するプロセスです。ローカル開発環境からコードまたはサンプルを実行するには、次のいずれかのオプションを選択して Compute Engine で認証を行います。

Select the tab for how you plan to use the samples on this page:
Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.
gcloud

必要なロール

インスタンスの作成に必要な権限を取得するには、プロジェクトに対する Compute インスタンス管理者（v1）（roles/compute.instanceAdmin.v1）IAM ロールを付与するよう管理者に依頼します。ロールの付与について詳しくは、プロジェクト、フォルダ、組織へのアクセス権を管理するをご覧ください。

この事前定義ロールには、インスタンスの作成に必要な権限が含まれています。必要とされる正確な権限については、「必要な権限」セクションを開いてご確認ください。

必要な権限

インスタンスを作成するには、次の権限が必要です。

プロジェクトに対する compute.instances.create
カスタムイメージを使用して VM を作成する: イメージに対する compute.images.useReadOnly
スナップショットを使用して VM を作成する: スナップショットに対する compute.snapshots.useReadOnly
インスタンステンプレートを使用して VM を作成する: インスタンステンプレートに対する compute.instanceTemplates.useReadOnly
VM にレガシーネットワークを割り当てる: プロジェクトに対する compute.networks.use
VM の静的 IP アドレスを指定する: プロジェクトに対する compute.addresses.use
レガシーネットワークを使用する際に VM に外部 IP アドレスを割り当てる: プロジェクトに対する compute.networks.useExternalIp
VM のサブネットを指定する: プロジェクトまたは選択したサブネットに対する compute.subnetworks.use
VPC ネットワークの使用時に VM に外部 IP アドレスを割り当てる: プロジェクトまたは選択したサブネットに対する compute.subnetworks.useExternalIp
VM の VM インスタンスメタデータを設定する: プロジェクトに対する compute.instances.setMetadata
VM にタグを設定する: VM に対する compute.instances.setTags
VM にラベルを設定する: VM に対する compute.instances.setLabels
VM が使用するサービスアカウントを設定する: VM に対する compute.instances.setServiceAccount
VM 用の新しいディスクを作成する: プロジェクトに対する compute.disks.create
既存のディスクを読み取り専用モードまたは読み取り / 書き込みモードでアタッチする: ディスクに対する compute.disks.use
既存のディスクを読み取り専用モードでアタッチする: ディスクに対する compute.disks.useReadOnly

カスタムロールや他の事前定義ロールを使用して、これらの権限を取得することもできます。

A3 Ultra インスタンスまたは A4 インスタンスの作成方法を決定する

A3 Ultra インスタンスまたは A4 インスタンスは、次の作成オプションで使用できます。作成手順、リソースの可用性、料金はそれぞれ異なります。ワークロードに基づいて、使用するオプションを特定します。

低レイテンシを必要とする大規模なモデルトレーニングや推論など、長時間実行される AI / ML ワークロードを実行する必要がある場合は、Cluster Director で提供されている機能とサービスを使用する VM またはクラスタを作成します。Cluster Director を使用すると、トポロジ対応のスケジューリングや高度なモニタリングとメンテナンスが可能な、高密度で割り振られたマシンを予約できます。Cluster Director の詳細については、AI Hypercomputer のドキュメントの Cluster Director をご覧ください。

A3 Ultra インスタンスまたは A4 インスタンスを作成する手順については、AI Hypercomputer のドキュメントの VM とクラスタの作成の概要をご覧ください。
短期間の AI / ML ワークロードが必要な場合は、次のいずれかのオプションを選択します。
- ワークロードを最小限のネットワークレイテンシで最大 90 日間実行する必要がある場合は、カレンダーモードでの将来の予約リクエストを使用して、高密度で割り振られたマシンを将来の日付で予約します。予約期間の開始時に、予約容量を使用して A3 Ultra インスタンスまたは A4 インスタンスを作成できます。予約期間の終了時に、予約とそれを消費する VM が Compute Engine で削除されます。
  
  予約を使用する A3 Ultra インスタンスまたは A4 インスタンスを作成する手順については、このドキュメントの A3 Ultra インスタンスまたは A4 インスタンスを作成するをご覧ください。
- ワークロードをいつでも起動でき、起動に正確な数の VM が必要な場合は、マネージドインスタンスグループ（MIG）でサイズ変更リクエストを使用します。MIG のサイズ変更リクエストで、リソースが使用可能になったときに VM を MIG に一度に追加するよう Compute Engine に求めます。これらの VM は最大 7 日間実行できます。リソースは保護されたプールから提供されるため、オンデマンドリクエストを行う場合よりも GPU を取得する可能性が高くなります。
  
  MIG のサイズ変更リクエストの詳細については、MIG のサイズ変更リクエストについてをご覧ください。
- 可用性の中断を許容できるワークロードであれば、Spot VM を使用して大幅な割引を受けることができます。Spot VM は必要に応じて作成および削除できます。ただし、Spot VM は有限のリソースであり、Compute Engine で容量を回収するためにいつでもプリエンプト（自動的に停止または削除）される可能性があります。Spot VM の詳細については、Spot VM をご覧ください。
  
  Spot VM を使用して A3 Ultra インスタンスまたは A4 インスタンスを作成する手順については、このドキュメントの A3 Ultra インスタンスまたは A4 インスタンスを作成するをご覧ください。

A3 Ultra インスタンスまたは A4 インスタンスを作成する

予約または Spot VM を使用して A3 Ultra インスタンスまたは A4 インスタンスを作成する手順は次のとおりです。

VPC ネットワークを作成する
インスタンスを作成する
インスタンスを使用できるように準備する

VPC ネットワークを作成する

ヒント: 簡単なテストを設定する場合は、この手順をスキップして、代わりに単一の NIC --network-interface=nic-type=GVNIC を指定できます。

A4 マシンタイプまたは A3 Ultra マシンタイプの場合は、次のネットワークインターフェース用に以下の 3 つの VPC ネットワークを作成する必要があります。

gVNIC ネットワークインターフェース（NIC）用の 2 つの VPC ネットワーク。ホスト間通信に使用されます。
CX7 NIC には、RDMA ネットワークプロファイルを持つ 1 つの VPC ネットワークが必要です。このネットワークには 8 個のサブネット（CX7 NIC ごとに 1 個のサブネット）が必要で、GPU 間通信に使用されます。

NIC の配置の詳細については、ネットワーク帯域幅と NIC の配置を確認するをご覧ください。

手順ガイドに沿って、手動または自動（提供されたスクリプト）でネットワークを設定します。

手順ガイド

ネットワークを作成するには、次の操作を行います。

gVNIC の VPC ネットワークを作成するには、Virtual Private Cloud ネットワークの作成と管理をご覧ください。
RDMA ネットワークプロファイルを使用して VPC ネットワークを作成するには、RDMA NIC 用の Virtual Private Cloud ネットワークを作成するをご覧ください。

これらの VPC ネットワークでは、最大伝送単位（MTU）をより大きい値に設定することをおすすめします。A4 マシンタイプまたは A3 Ultra マシンタイプの場合、推奨される MTU は 8896 バイトです。他の GPU マシンタイプの推奨 MTU 設定を確認するには、GPU マシンタイプの MTU 設定をご覧ください。

スクリプト

ネットワークを作成するには、次のスクリプトを使用します。

  #!/bin/bash

  # Create standard VPCs (network and subnets) for the gVNICs
  for N in $(seq 0 1); do
    gcloud compute networks create GVNIC_NAME_PREFIX-net-$N \
      --subnet-mode=custom \
      --mtu=8896

    gcloud compute networks subnets create GVNIC_NAME_PREFIX-sub-$N \
      --network=GVNIC_NAME_PREFIX-net-$N \
      --region=REGION \
      --range=10.$N.0.0/16

    gcloud compute firewall-rules create GVNIC_NAME_PREFIX-internal-$N \
      --network=GVNIC_NAME_PREFIX-net-$N \
      --action=ALLOW \
      --rules=tcp:0-65535,udp:0-65535,icmp \
      --source-ranges=10.0.0.0/8
  done

  # Create SSH firewall rules
  gcloud compute firewall-rules create GVNIC_NAME_PREFIX-ssh \
    --network=GVNIC_NAME_PREFIX-net-0 \
    --action=ALLOW \
    --rules=tcp:22 \
    --source-ranges=IP_RANGE

  # Assumes that an external IP is only created for vNIC 0
  gcloud compute firewall-rules create GVNIC_NAME_PREFIX-allow-ping-net-0 \
    --network=GVNIC_NAME_PREFIX-net-0 \
    --action=ALLOW \
    --rules=icmp \
    --source-ranges=IP_RANGE

  # List and make sure network profiles exist
  gcloud compute network-profiles list

  # Create network for CX-7
  gcloud compute networks create RDMA_NAME_PREFIX-mrdma \
    --network-profile=ZONE-vpc-roce \
    --subnet-mode custom \
    --mtu=8896

  # Create subnets.
  for N in $(seq 0 7); do
    gcloud compute networks subnets create RDMA_NAME_PREFIX-mrdma-sub-$N \
      --network=RDMA_NAME_PREFIX-mrdma \
      --region=REGION \
      --range=10.$((N+2)).0.0/16 # offset to avoid overlap with gVNICs
  done

次のように置き換えます。

GVNIC_NAME_PREFIX: gVNIC の標準 VPC ネットワークとサブネットに使用するカスタム名の接頭辞。
RDMA_NAME_PREFIX: CX7 NIC の RDMA ネットワークプロファイルを適用する VPC ネットワークとサブネットに使用するカスタム名の接頭辞。
ZONE: 使用するマシンタイプが使用可能なゾーンを指定します。リージョンの詳細については、各リージョンとゾーンで利用可能な GPU をご覧ください。
REGION: サブネットを作成するリージョン。このリージョンは、指定したゾーンに対応している必要があります。たとえば、ゾーンが europe-west1-b の場合、リージョンは europe-west1 です。
IP_RANGE: SSH ファイアウォールルールに使用する IP 範囲。

インスタンスを作成する

A3 Ultra インスタンスまたは A4 インスタンスを作成するには、次のいずれかの方法を選択します。

予約を使用するインスタンスを作成する
Spot VM を作成する

予約を使用するインスタンスを作成する

予約を使用するインスタンスを作成するには、以下のいずれかの方法を選択します。

コンソール

Google Cloud コンソールで [インスタンスの作成] ページに移動します。

[インスタンスの作成] に移動

[インスタンスの作成] 画面が表示され、[マシンの構成] ペインが表示されます。
[マシンの構成] ペインで、次の操作を行います。
1. [名前] でインスタンスの名前を指定します。リソースの命名規則をご覧ください。
2. [リージョン] と [ゾーン] で、容量を予約したリージョンとゾーンをそれぞれ選択します。
3. [GPU] タブをクリックして、次の操作を行います。
  1. [GPU のタイプ] リストで、GPU のタイプを選択します。
    - A4 インスタンスの場合は、NVIDIA B200 を選択します。
    - A3 Ultra インスタンスの場合は、NVIDIA H200 141 GB を選択します。
  2. [GPU の数] リストで、8 を選択します。
ナビゲーションメニューで [OS とストレージ] をクリックします。表示された [OS とストレージ] ペインで、次の手順を完了します。
1. [変更] をクリックします。[ブートディスクの構成] ペインが表示されます。
2. [公開イメージ] タブで、推奨イメージを選択します。推奨イメージの一覧については、オペレーティングシステムをご覧ください。
3. ブートディスクのオプションを確認するには、[選択] をクリックします。
マルチ NIC インスタンスを作成するには、次の手順を完了します。それ以外の場合は、単一 NIC インスタンスを作成するため、これらの手順をスキップします。
- ナビゲーションメニューで、[ネットワーキング] をクリックします。表示された [ネットワーキング] ペインで、次の手順を完了します。
  1. [ネットワークインターフェース] セクションで、次の操作を行います。
  2. デフォルトのネットワークインターフェースを削除します。インターフェースを削除するには、[ 削除] をクリックします。
  3. [ネットワークインターフェースを追加] をクリックします。このオプションを使用して、前のセクションで作成した gVNIC ネットワークと RDMA ネットワークを追加します。ネットワークを追加する際は、次の点に注意してください。
    - [ネットワーク] リストと [サブネットワーク] リストでホストネットワークを指定し、[ネットワークインターフェースカード] リストで [gVNIC] を選択します。
    - [ネットワーク] リストと [サブネットワーク] リストで GPU ネットワークを指定し、それらのネットワークの [ネットワークインターフェースカード] リストで [MRDMA] を選択します。
ナビゲーションメニューで、[詳細設定] をクリックします。表示された [詳細設定] ペインで、次の手順を完了します。
1. [予約] セクションで [予約を選択] を選択し、[予約を選択] をクリックします。この操作を行うと、選択したゾーンで使用可能な予約のリストを含むペインが開きます。予約リストで、次の操作を行います。
  1. VM に使用する予約を選択します。予約内の特定のブロックを選択することもできます。
  2. [選択] をクリックします。
2. [プロビジョニングモデル] セクションで、[VM プロビジョニングモデルの詳細設定] セクションを開きます。
3. [VM の終了時] リストで、[停止]（デフォルト）または [削除] を選択します。
インスタンスを作成して起動するには、[作成] をクリックします。

gcloud

VM を作成するには、gcloud compute instances create コマンドを使用します。

gcloud compute instances create VM_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE

次のように置き換えます。

VM_NAME: VM の名前。
MACHINE_TYPE: VM に使用するマシンタイプ。A4 マシンタイプまたは A3 Ultra マシンタイプを指定します。詳細については、GPU マシンタイプをご覧ください。
IMAGE_FAMILY: 使用する OS イメージのイメージファミリー。サポートされているオペレーティングシステムのリストについては、オペレーティングシステムの詳細をご覧ください。
IMAGE_PROJECT: OS イメージのプロジェクト ID。
ZONE: 使用するマシンタイプが利用可能なゾーン。リージョンの詳細については、GPU のリージョンとゾーンをご覧ください。
DISK_SIZE: ブートディスクのサイズ（GB）。
GVNIC_NAME_PREFIX: gVNIC を使用する標準の VPC ネットワークとサブネットの作成時に指定した名前の接頭辞。
RDMA_NAME_PREFIX: RDMA NIC を使用する VPC ネットワークとサブネットの作成時に指定した名前の接頭辞。

RESERVATION: 予約名または予約内の特定のブロック。予約名または使用可能なブロックを取得するには、予約容量を表示するをご覧ください。次のいずれかの方法をお選びください。

予約値使用する状況

予約値	使用する状況
`projects/RESERVATION_PROJECT_ID/reservations/RESERVATION_NAME`	次のいずれかに該当する場合は、この値を使用します。コンパクトプレースメントポリシーを使用している。Compute Engine は、ポリシーを予約に適用し、単一のブロックに VM を作成します。コンパクトプレースメントポリシーを使用しておらず、予約済みブロックのいずれかに VM を作成しても問題ない。
`projects/RESERVATION_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME`	この値は、コンパクトプレースメントポリシーを使用しておらず、特定の予約済みブロックに VM を作成する場合に使用します。


projects/RESERVATION_PROJECT_ID/reservations/RESERVATION_NAME

次のいずれかに該当する場合は、この値を使用します。

コンパクトプレースメントポリシーを使用している。Compute Engine は、ポリシーを予約に適用し、単一のブロックに VM を作成します。
コンパクトプレースメントポリシーを使用しておらず、予約済みブロックのいずれかに VM を作成しても問題ない。


projects/RESERVATION_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

この値は、コンパクトプレースメントポリシーを使用しておらず、特定の予約済みブロックに VM を作成する場合に使用します。

ヒント: 予約が現在のプロジェクトに存在する場合は、予約値の projects/RESERVATION_PROJECT_ID/reservations/ を省略できます。

TERMINATION_ACTION: 予約期間の終了時に Compute Engine によって VM を停止（STOP）するか削除（DELETE）するかの指定。

REST

VM を作成するには、instances.insert メソッドに POST リクエストを送信します。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType":"projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name":"VM_NAME",
  "disks":[
    {
      "boot":true,
      "initializeParams":{
        "diskSizeGb":"DISK_SIZE",
        "diskType":"hyperdisk-balanced",
        "sourceImage":"projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode":"READ_WRITE",
      "type":"PERSISTENT"
    }
  ],
  "networkInterfaces": [
    {
      "accessConfigs": [
        {
          "name": "external-nat",
          "type": "ONE_TO_ONE_NAT"
        }
      ],
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-0"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-1"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-2"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-3"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-4"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-5"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-6"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-7"
    }
  ],
  "reservationAffinity":{
    "consumeReservationType":"SPECIFIC_RESERVATION",
    "key":"compute.googleapis.com/reservation-name",
    "values":[
      "RESERVATION"
    ]
  },
"scheduling":{
    "provisioningModel":"RESERVATION_BOUND",
    "instanceTerminationAction":"TERMINATION_ACTION",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart":true
  }
}

次のように置き換えます。

PROJECT_ID: VM を作成するプロジェクトの ID。
ZONE: 使用するマシンタイプが利用可能なゾーン。リージョンの詳細については、GPU のリージョンとゾーンをご覧ください。
MACHINE_TYPE: VM に使用するマシンタイプ。A4 マシンタイプまたは A3 Ultra マシンタイプを指定します。詳細については、GPU マシンタイプをご覧ください。
VM_NAME: VM の名前。
DISK_SIZE: ブートディスクのサイズ（GB）。
IMAGE_PROJECT: OS イメージのプロジェクト ID。
IMAGE_FAMILY: 使用する OS イメージのイメージファミリー。サポートされているオペレーティングシステムのリストについては、オペレーティングシステムの詳細をご覧ください。
NETWORK_PROJECT_ID: ネットワークのプロジェクト ID。
GVNIC_NAME_PREFIX: gVNIC を使用する標準の VPC ネットワークとサブネットの作成時に指定した名前の接頭辞。
REGION: サブネットワークのリージョン。
RDMA_NAME_PREFIX: RDMA NIC を使用する VPC ネットワークとサブネットの作成時に指定した名前の接頭辞。

予約値使用する状況

予約値	使用する状況
`projects/RESERVATION_PROJECT_ID/reservations/RESERVATION_NAME`	次のいずれかに該当する場合は、この値を使用します。コンパクトプレースメントポリシーを使用している。Compute Engine は、ポリシーを予約に適用し、単一のブロックに VM を作成します。コンパクトプレースメントポリシーを使用しておらず、予約済みブロックのいずれかに VM を作成しても問題ない。
`projects/RESERVATION_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME`	この値は、コンパクトプレースメントポリシーを使用しておらず、特定の予約済みブロックに VM を作成する場合に使用します。


projects/RESERVATION_PROJECT_ID/reservations/RESERVATION_NAME

次のいずれかに該当する場合は、この値を使用します。

コンパクトプレースメントポリシーを使用している。Compute Engine は、ポリシーを予約に適用し、単一のブロックに VM を作成します。
コンパクトプレースメントポリシーを使用しておらず、予約済みブロックのいずれかに VM を作成しても問題ない。


projects/RESERVATION_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

この値は、コンパクトプレースメントポリシーを使用しておらず、特定の予約済みブロックに VM を作成する場合に使用します。

ヒント: 予約が現在のプロジェクトに存在する場合は、予約値の projects/RESERVATION_PROJECT_ID/reservations/ を省略できます。

TERMINATION_ACTION: 予約期間の終了時に Compute Engine によって VM を停止（STOP）するか削除（DELETE）するかの指定。

Spot VM を作成する

次のいずれかの方法で Spot VM を作成します。

コンソール

Google Cloud コンソールで [インスタンスの作成] ページに移動します。

[インスタンスの作成] に移動

[インスタンスの作成] 画面が表示され、[マシンの構成] ペインが表示されます。
[マシンの構成] ペインで、次の操作を行います。
1. [名前] でインスタンスの名前を指定します。リソースの命名規則をご覧ください。
2. [リージョン] と [ゾーン] で、VM を作成するリージョンとゾーンをそれぞれ選択します。GPU を利用できるリージョンとゾーンを確認するには、GPU のリージョンとゾーンをご覧ください。
3. [GPU] タブをクリックして、次の操作を行います。
  1. [GPU のタイプ] リストで、GPU のタイプを選択します。
    - A4 インスタンスの場合は、NVIDIA B200 を選択します。
    - A3 Ultra インスタンスの場合は、NVIDIA H200 141 GB を選択します。
  2. [GPU の数] リストで、8 を選択します。
ナビゲーションメニューで [OS とストレージ] をクリックします。表示された [OS とストレージ] ペインで、次の手順を完了します。
1. [変更] をクリックします。[ブートディスクの構成] ペインが表示されます。
2. [公開イメージ] タブで、推奨イメージを選択します。推奨イメージの一覧については、オペレーティングシステムをご覧ください。
3. ブートディスクのオプションを確認するには、[選択] をクリックします。
マルチ NIC インスタンスを作成するには、次の手順を完了します。それ以外の場合は、単一 NIC インスタンスを作成するため、これらの手順をスキップします。
- ナビゲーションメニューで、[ネットワーキング] をクリックします。表示された [ネットワーキング] ペインで、次の手順を完了します。
  1. [ネットワークインターフェース] セクションで、次の操作を行います。
  2. デフォルトのネットワークインターフェースを削除します。インターフェースを削除するには、[ 削除] をクリックします。
  3. [ネットワークインターフェースを追加] をクリックします。このオプションを使用して、前のセクションで作成した gVNIC ネットワークと RDMA ネットワークを追加します。ネットワークを追加する際は、次の操作を行う必要があります。
    - [ネットワーク] リストと [サブネットワーク] リストでホストネットワークを指定し、[ネットワークインターフェースカード] リストで [gVNIC] を選択します。
    - [ネットワーク] リストと [サブネットワーク] リストで GPU ネットワークを指定し、それらのネットワークの [ネットワークインターフェースカード] リストで [MRDMA] を選択します。
ナビゲーションメニューで、[詳細設定] をクリックします。表示された [詳細設定] ペインで、次の手順を完了します。
1. [プロビジョニングモデル] セクションで、[VM プロビジョニングモデル] リストから [Spot] を選択します。
2. 省略可: Compute Engine でインスタンスがプリエンプトされたときに実行するアクションを指定するには、次の操作を行います。
  1. [VM プロビジョニングモデルの詳細設定] セクションを開きます。
  2. [VM の終了時] リストで、[停止] または [削除] を選択します。
インスタンスを作成して起動するには、[作成] をクリックします。

gcloud

VM を作成するには、gcloud compute instances create コマンドを使用します。

gcloud compute instances create VM_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION

次のように置き換えます。

VM_NAME: VM の名前。
MACHINE_TYPE: VM に使用するマシンタイプ。A4 マシンタイプまたは A3 Ultra マシンタイプを指定します。詳細については、GPU マシンタイプをご覧ください。
IMAGE_FAMILY: 使用する OS イメージのイメージファミリー。サポートされているオペレーティングシステムのリストについては、オペレーティングシステムの詳細をご覧ください。
IMAGE_PROJECT: OS イメージのプロジェクト ID。
ZONE: 使用するマシンタイプが利用可能なゾーン。リージョンの詳細については、GPU のリージョンとゾーンをご覧ください。
DISK_SIZE: ブートディスクのサイズ（GB）。
GVNIC_NAME_PREFIX: gVNIC を使用する標準の VPC ネットワークとサブネットの作成時に指定した名前の接頭辞。
RDMA_NAME_PREFIX: RDMA NIC を使用する VPC ネットワークとサブネットの作成時に指定した名前の接頭辞。
TERMINATION_ACTION: Compute Engine がインスタンスをプリエンプトするときに実行するアクション。STOP（デフォルト）または DELETE のいずれかです。

重要: ご使用のアプリケーションでプリエンプションの処理が可能であることを確認してください。たとえば、インスタンスの作成時にシャットダウンスクリプトを指定してプリエンプションを処理することをおすすめします。シャットダウンスクリプトを使用してプリエンプションを処理する方法をご覧ください。

REST

VM を作成するには、instances.insert メソッドに POST リクエストを送信します。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType":"projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name":"VM_NAME",
  "disks":[
    {
      "boot":true,
      "initializeParams":{
        "diskSizeGb":"DISK_SIZE",
        "diskType":"hyperdisk-balanced",
        "sourceImage":"projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode":"READ_WRITE",
      "type":"PERSISTENT"
    }
  ],
  "networkInterfaces": [
    {
      "accessConfigs": [
        {
          "name": "external-nat",
          "type": "ONE_TO_ONE_NAT"
        }
      ],
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-0"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-1"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-2"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-3"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-4"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-5"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-6"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
      "nicType": "MRDMA",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-7"
    }
  ],
  "scheduling":
  {
    "provisioningModel": "SPOT",
    "instanceTerminationAction": "TERMINATION_ACTION"
  }
}

次のように置き換えます。

PROJECT_ID: VM を作成するプロジェクトの ID。
ZONE: 使用するマシンタイプが利用可能なゾーン。リージョンの詳細については、GPU のリージョンとゾーンをご覧ください。
MACHINE_TYPE: VM に使用するマシンタイプ。A4 マシンタイプまたは A3 Ultra マシンタイプを指定します。詳細については、GPU マシンタイプをご覧ください。
VM_NAME: VM の名前。
DISK_SIZE: ブートディスクのサイズ（GB）。
IMAGE_PROJECT: OS イメージのプロジェクト ID。
IMAGE_FAMILY: 使用する OS イメージのイメージファミリー。サポートされているオペレーティングシステムのリストについては、オペレーティングシステムの詳細をご覧ください。
NETWORK_PROJECT_ID: ネットワークのプロジェクト ID。
GVNIC_NAME_PREFIX: gVNIC を使用する標準の VPC ネットワークとサブネットの作成時に指定した名前の接頭辞。
REGION: サブネットワークのリージョン。
RDMA_NAME_PREFIX: RDMA NIC を使用する VPC ネットワークとサブネットの作成時に指定した名前の接頭辞。
TERMINATION_ACTION: Compute Engine がインスタンスをプリエンプトするときに実行するアクション。STOP（デフォルト）または DELETE のいずれかです。

重要: ご使用のアプリケーションでプリエンプションの処理が可能であることを確認してください。たとえば、インスタンスの作成時にシャットダウンスクリプトを指定してプリエンプションを処理することをおすすめします。シャットダウンスクリプトを使用してプリエンプションを処理する方法をご覧ください。

インスタンスを使用できるように準備する

GPU が割り当てられたインスタンスを使用できるように準備するには、次の操作を行います。

A4 インスタンスまたは A3 Ultra インスタンスで割り当てられた GPU を使用できるようにするには、インスタンスに GPU ドライバがインストールされている必要があります。必要な GPU ドライバがインスタンスのイメージにすでに含まれている場合を除き、GPU ドライバをインストールします。
前のセクションで Spot VM を作成した場合は、次の手順を行います。
- プリエンプションの可能性に備えて Spot VM を準備するには、Spot VM のプリエンプションを管理するをご覧ください。
- 省略可: Spot VM のベストプラクティスを確認します。

次のステップ

GPU のパフォーマンスをモニタリングする。GPU パフォーマンスのモニタリングをご覧ください。
GPU インスタンスのトラブルシューティングを行う。GPU VM のトラブルシューティングをご覧ください。
GPU プラットフォームの詳細を学習する。

A3 Ultra インスタンスまたは A4 インスタンスを作成する コレクションでコンテンツを整理 必要に応じて、コンテンツの保存と分類を行います。

始める前に

Console

gcloud

REST

必要なロール

必要な権限

A3 Ultra インスタンスまたは A4 インスタンスの作成方法を決定する

A3 Ultra インスタンスまたは A4 インスタンスを作成する

VPC ネットワークを作成する

手順ガイド

スクリプト

インスタンスを作成する

予約を使用するインスタンスを作成する

コンソール

gcloud

REST

Spot VM を作成する

コンソール

gcloud

REST

インスタンスを使用できるように準備する

次のステップ

A3 Ultra インスタンスまたは A4 インスタンスを作成する