アクセラレータ最適化 VM を作成する

Linux Windows

このドキュメントでは、アクセラレータ最適化マシンファミリーを使用する VM の作成方法について説明します。アクセラレータ最適化マシンファミリーは、A3、A2、G2 マシンタイプで用意されています。

各アクセラレータ最適化マシンタイプには、特定モデルの NVIDIA GPU がアタッチされています。

A3 アクセラレータ最適化マシンタイプには、NVIDIA H100 80 GB GPU がアタッチされます。次のオプションが用意されています。
- A3 Mega: H100 80 GB GPU がアタッチされるマシンタイプです。
- A3 High: H100 80 GB GPU がアタッチされるマシンタイプです。
- A3 Edge: H100 80 GB GPU がアタッチされるマシンタイプです。
A2 アクセラレータ最適化マシンタイプには、NVIDIA A100 GPU がアタッチされます。次のオプションが用意されています。
- A2 Ultra: A100 80 GB GPU がアタッチされるマシンタイプです。
- A2 Standard: A100 40 GB GPU がアタッチされるマシンタイプです。
G2 アクセラレータ最適化マシンタイプについては、NVIDIA L4 GPU がアタッチされます。

始める前に

OS イメージの選択や GPU 割り当ての確認など、その他の前提条件を確認するには、概要のドキュメントをご覧ください。
まだ認証を設定していない場合は、ここで認証を設定します。認証とは、Google Cloud サービスと API にアクセスするために ID を確認するプロセスです。ローカル開発環境でコードまたはサンプルを実行するには、次のいずれかのオプションを選択して Compute Engine に対する認証を行います。

Select the tab for how you plan to use the samples on this page:
Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.
gcloud
1. Install the Google Cloud CLI, then initialize it by running the following command:
  gcloud init
  Note: If you installed the gcloud CLI previously, make sure you have the latest version by running gcloud components update.
2. Set a default region and zone.

必要なロール

VM の作成に必要な権限を取得するには、プロジェクトに対する Compute インスタンス管理者（v1）（roles/compute.instanceAdmin.v1）IAM ロールを付与するよう管理者に依頼します。ロールの付与については、プロジェクト、フォルダ、組織へのアクセス権の管理をご覧ください。

この事前定義ロールには、VM の作成に必要な権限が含まれています。必要とされる正確な権限については、「必要な権限」セクションを開いてご確認ください。

必要な権限

VM を作成するには、次の権限が必要です。

プロジェクトに対する compute.instances.create
カスタムイメージを使用して VM を作成する: イメージに対する compute.images.useReadOnly
スナップショットを使用して VM を作成する: スナップショットに対する compute.snapshots.useReadOnly
インスタンステンプレートを使用して VM を作成する: インスタンステンプレートに対する compute.instanceTemplates.useReadOnly
VM にレガシーネットワークを割り当てる: プロジェクトに対する compute.networks.use
VM の静的 IP アドレスを指定する: プロジェクトに対する compute.addresses.use
レガシーネットワークを使用する際に VM に外部 IP アドレスを割り当てる: プロジェクトに対する compute.networks.useExternalIp
VM のサブネットを指定する: プロジェクトまたは選択したサブネットに対する compute.subnetworks.use
VPC ネットワークの使用時に VM に外部 IP アドレスを割り当てる: プロジェクトまたは選択したサブネットに対する compute.subnetworks.useExternalIp
VM の VM インスタンスメタデータを設定する: プロジェクトに対する compute.instances.setMetadata
VM にタグを設定する: VM に対する compute.instances.setTags
VM にラベルを設定する: VM に対する compute.instances.setLabels
VM が使用するサービスアカウントを設定する: VM に対する compute.instances.setServiceAccount
VM 用の新しいディスクを作成する: プロジェクトに対する compute.disks.create
既存のディスクを読み取り専用モードまたは読み取り / 書き込みモードでアタッチする: ディスクに対する compute.disks.use
既存のディスクを読み取り専用モードでアタッチする: ディスクに対する compute.disks.useReadOnly

カスタムロールや他の事前定義ロールを使用して、これらの権限を取得することもできます。

GPU がアタッチされた VM を作成する

A3、A2、または G2 アクセラレータ最適化 VM は、Google Cloud コンソール、Google Cloud CLI、または REST を使用して作成できます。

G2 VM をカスタマイズするには、Google Cloud CLI または REST が必要になる場合があります。G2 の制限事項をご覧ください。

コンソール

Google Cloud コンソールで、[インスタンスの作成] ページに移動します。

[インスタンスの作成] に移動
VM の名前を指定します。リソースの命名規則をご覧ください。
GPU が利用可能なリージョンとゾーンを選択します。利用可能な GPU のリージョンとゾーンのリストをご覧ください。
[マシンの構成] セクションで、[GPU] マシンファミリーを選択し、次の操作を行います。
1. [GPU のタイプ] リストで、GPU のタイプを選択します。
  - A3 アクセラレータ最適化 VM の場合は、NVIDIA H100 80GB または NVIDIA H100 80GB MEGA を選択します。
  - A2 アクセラレータ最適化 VM の場合は、NVIDIA A100 40GB または NVIDIA A100 80GB を選択します。
  - G2 アクセラレータ最適化 VM の場合は、NVIDIA L4 を選択します。
2. [GPU の数] リストで、GPU の数を選択します。
  
  注: 接続できる GPU の数は、アクセラレータ最適化マシンタイプごとに決まっています。GPU の数を変更すると、[マシンタイプ] が変更されます。
3. GPU モデルがグラフィックワークロード用の NVIDIA RTX 仮想ワークステーション（vWS）をサポートし、この VM でグラフィックを多用するワークロードを実行する予定がある場合は、[仮想ワークステーション（NVIDIA GRID）を有効にする] を選択します。
[ブートディスク] セクションで [変更] をクリックします。[ブートディスクの構成] ページが表示されます。
[ブートディスクの構成] ページで、次の操作を行います。
1. [公開イメージ] タブで、サポートされている Compute Engine イメージまたは Deep Learning VM Image を選択します。
2. ブートディスクサイズは 40 GB 以上で指定します。
3. ブートディスクのオプションを確認するには、[選択] をクリックします。
省略可: プロビジョニングモデルを構成します。たとえば、ワークロードがフォールトトレラントで、発生が考えられる VM のプリエンプションに対処できる場合は、Spot VM を使用して VM およびアタッチされた GPU のコストを削減することを検討してください。詳細については、Spot VM の GPU をご覧ください。その方法は次のとおりです。
1. [可用性ポリシー] セクションで、[VM プロビジョニングモデル] リストから [スポット] を選択します。これを選択すると、VM の自動再起動とホストメンテナンスオプションが無効になります。
2. 省略可: [VM の終了時] リストで、Compute Engine が VM をプリエンプトしたときの動作を選択します。
  - プリエンプション中に VM を停止するには、[停止] を選択します（デフォルト）。
  - プリエンプション中に VM を削除するには [削除] をクリックします。
VM を作成して起動するには、[作成] をクリックします。

gcloud

VM を作成して起動するには、次のフラグを指定して、gcloud compute instances create コマンドを使用します。GPU を使用した VM はライブマイグレーションできません。必ず --maintenance-policy=TERMINATE フラグを設定してください。

サンプルコマンドには、以下のオプションのフラグが指定されています。

VM を Spot VM として構成する --provisioning-model=SPOT フラグ。ワークロードがフォールトトレラントで、発生が考えられる VM のプリエンプションに対処できる場合は、Spot VM を使用して VM およびアタッチされた GPU のコストを削減することを検討してください。詳細については、Spot VM 上の GPU をご覧ください。Spot VM の場合、自動再起動とホストメンテナンスのオプションフラグは無効になります。
仮想ワークステーションを指定する --accelerator フラグ。 NVIDIA RTX 仮想ワークステーション（vWS）は、G2 VM でのみサポートされています。

  gcloud compute instances create VM_NAME \
      --machine-type=MACHINE_TYPE \
      --zone=ZONE \
      --boot-disk-size=DISK_SIZE \
      --image=IMAGE \
      --image-project=IMAGE_PROJECT \
      --maintenance-policy=TERMINATE \
      [--provisioning-model=SPOT] \
      [--accelerator=type=nvidia-l4-vws,count=VWS_ACCELERATOR_COUNT]

次のように置き換えます。

VM_NAME: 新しい VM の名前。
MACHINE_TYPE: 選択したマシンタイプ。次のいずれかを選択します。
- A3 マシンタイプ。
- A2 マシンタイプ。
- G2 マシンタイプ。 G2 マシンタイプはカスタムメモリもサポートしています。メモリは 1,024 MB の倍数とし、サポートされているメモリ範囲内に収める必要があります。たとえば、4 個の vCPU と 19 GB のメモリを備えた VM を作成するには、--machine-type=g2-custom-4-19456 を指定します。
ZONE: VM のゾーン。このゾーンは、選択した GPU モデルをサポートしている必要があります。
DISK_SIZE: ブートディスクのサイズ（GB 単位）。ブートディスクのサイズは 40 GB 以上で指定します。
IMAGE: GPU をサポートするオペレーティングシステムイメージ。イメージファミリーの最新イメージを使用する場合は、--image フラグを --image-family フラグに置き換え、その値を GPU をサポートするイメージファミリーに設定します。例: --image-family=rocky-linux-8-optimized-gcp。
カスタムイメージまたは Deep Learning VM Image を指定することもできます。
IMAGE_PROJECT: OS イメージが属する Compute Engine イメージプロジェクト。カスタムイメージまたは Deep Learning VM Image を使用する場合は、それらのイメージが属するプロジェクトを指定します。
VWS_ACCELERATOR_COUNT: 必要な仮想 GPU の数。

REST

instances.insert メソッドに POST リクエストを送信します。GPU を使用した VM はライブマイグレーションできません。必ず onHostMaintenance パラメータを TERMINATE に設定してください。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
"machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
"disks":
[
  {
    "type": "PERSISTENT",
    "initializeParams":
    {
      "diskSizeGb": "DISK_SIZE",
      "sourceImage": "SOURCE_IMAGE_URI"
    },
    "boot": true
  }
],
"name": "VM_NAME",
"networkInterfaces":
[
  {
    "network": "projects/PROJECT_ID/global/networks/NETWORK"
  }
],
"scheduling":
{
  "onHostMaintenance": "terminate",
  ["automaticRestart": true]
},
}

次のように置き換えます。

VM_NAME: 新しい VM の名前。
PROJECT_ID: プロジェクト ID。
ZONE: VM のゾーン。このゾーンは、選択した GPU モデルをサポートしている必要があります。
MACHINE_TYPE: 選択したマシンタイプ。次のいずれかを選択します。
- A3 マシンタイプ。
- A2 マシンタイプ。
- G2 マシンタイプ。 G2 マシンタイプはカスタムメモリもサポートしています。メモリは 1,024 MB の倍数とし、サポートされているメモリ範囲内に収める必要があります。たとえば、4 個の vCPU と 19 GB のメモリを備えた VM を作成するには、--machine-type=g2-custom-4-19456 を指定します。
SOURCE_IMAGE_URI: 使用する特定のイメージまたはイメージファミリーの URI。次に例を示します。
- 特定のイメージ: "sourceImage": "projects/rocky-linux-cloud/global/images/rocky-linux-8-optimized-gcp-v20220719"
- イメージファミリー: "sourceImage": "projects/rocky-linux-cloud/global/images/family/rocky-linux-8-optimized-gcp"
イメージファミリーを指定すると、Compute Engine はそのファミリー内のサポート対象の最新の OS イメージから VM を作成します。イメージファミリーを使用するタイミングについて詳しくは、イメージファミリーのベストプラクティスをご覧ください。
DISK_SIZE: ブートディスクのサイズ（GB 単位）。ブートディスクのサイズは 40 GB 以上で指定します。
NETWORK: VM に使用する VPC ネットワーク。デフォルトネットワークを使用するには、「default」を指定します。

追加の設定:

ワークロードがフォールトトレラントで、発生が考えられる VM のプリエンプションに対処できる場合は、Spot VM を使用して VM およびアタッチされた GPU の費用を削減することを検討してください。詳細については、Spot VM の GPU をご覧ください。Spot VM を指定するには、リクエストに "provisioningModel": "SPOT" オプションを追加します。Spot VM の場合、自動再起動とホストメンテナンスのオプションフラグは無効になります。
```
"scheduling":
  {
    "provisioningModel": "SPOT"
  }
```
G2 VM の場合、NVIDIA RTX 仮想ワークステーション（vWS）がサポートされています。仮想ワークステーションを指定するには、リクエストに「guestAccelerators」オプションを追加します。VWS_ACCELERATOR_COUNT は、必要な仮想 GPU の数に置き換えます。
```
"guestAccelerators":
  [
    {
      "acceleratorCount": VWS_ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONEacceleratorTypes/nvidia-l4-vws"
    }
  ]
```

制限事項

A3 VM

A3 Edge、A3 High、A3 Mega マシンタイプを使用する VM には、次の制限が適用されます。

A3 マシンタイプを使用する VM は、継続利用割引とフレキシブル確約利用割引の対象外となります。
A3 マシンタイプは、特定のリージョンとゾーンでのみ使用できます。
A3 マシンタイプを使用する VM では、リージョン Persistent Disk を使用できません。
A3 マシンシリーズは、Sapphire Rapids プラットフォームでのみ使用できます。
VM が A3 マシンタイプを使用している場合、そのマシンタイプを変更することはできません。マシンタイプを変更するには、新しい VM を作成する必要があります。
VM のマシンタイプを A3 マシンタイプに変更することはできません。A3 マシンタイプを使用する VM が必要な場合は、新しい VM を作成する必要があります。
A3 マシンタイプは、単一テナンシーをサポートしません。
A3 マシンタイプでは Windows オペレーティングシステムを実行できません。
A3 マシンタイプの予約は、特定の予約からのみ可能です。
a3-highgpu-1g、a3-highgpu-2g、a3-highgpu-4g マシンタイプには、次の制限が適用されます。
- これらのマシンタイプでは、Spot VM を使用するか、Dynamic Workload Scheduler（DWS）を利用する機能（MIG でのサイズ変更リクエストなど）を使用する必要があります。これらのオプションの詳しい使用方法については以下をご覧ください。
  - Spot VM を作成するには、アクセラレータ最適化 VM を作成するをご覧ください。また、プロビジョニングモデルを SPOT に設定してください。
  - Dynamic Workload Scheduler を使用する MIG でサイズ変更リクエストを作成するには、GPU VM を使用する MIG を作成するをご覧ください。
- これらのマシンタイプでは Hyperdisk Balanced を使用できません。
- 予約を作成できません。
標準プロビジョニングを使用して VM を作成しようとした場合、またはこれらのマシンタイプの予約を作成しようとした場合、エラーメッセージが返されます。

A2 標準 VM

A2 標準マシンタイプを使用する VM は、継続利用割引とフレキシブル確約利用割引の対象外となります。
A2 標準マシンタイプは、特定のリージョンとゾーンでのみ使用できます。
A2 標準マシンタイプを使用する VM では、リージョン Persistent Disk を使用できません。
A2 標準マシンタイプは、Cascade Lake プラットフォームでのみ使用できます。
VM が A2 標準マシンタイプを使用している場合は、ある A2 標準マシンタイプから別の A2 標準マシンタイプにのみ切り替えることができます。他のマシンタイプには変更できません。詳細については、アクセラレータ最適化 VM を変更するをご覧ください。
<codea2-megagpu-16g< code="" dir="ltr" translate="no">A2 標準マシンタイプでは Windows オペレーティングシステムを使用できません。Windows オペレーティングシステムを使用する場合は、別の A2 標準マシンタイプを選択する必要があります。</codea2-megagpu-16g<>
A2 標準マシンタイプを使用する Windows VM では、アタッチされたローカル SSD のクイックフォーマットを行うことができません。これらのローカル SSD をフォーマットするには、diskpart ユーティリティを使用し、format fs=ntfs label=tmpfs を指定して完全フォーマットを行う必要があります。
A2 標準マシンタイプは、単一テナンシーをサポートしません。

A2 Ultra VM

A2 Ultra マシンタイプを使用する VM は、継続利用割引とフレキシブル確約利用割引の対象外となります。
A2 Ultra マシンタイプは、特定のリージョンとゾーンでのみ使用できます。
A2 Ultra マシンタイプを使用する VM では、リージョン Persistent Disk を使用できません。
A2 Ultra マシンタイプは、Cascade Lake プラットフォームでのみ使用できます。
VM が A2 Ultra マシンタイプを使用している場合、マシンタイプを変更することはできません。別の A2 Ultra マシンタイプやその他のマシンタイプを使用するには、新しい VM を作成する必要があります。
他のマシンタイプを A2 Ultra マシンタイプに変更することはできません。A2 Ultra マシンタイプを使用する VM が必要な場合は、新しい VM を作成する必要があります。
A2 Ultra マシンタイプを使用する Windows VM では、アタッチされたローカル SSD のクイックフォーマットを行うことができません。これらのローカル SSD をフォーマットするには、diskpart ユーティリティを使用し、format fs=ntfs label=tmpfs を指定して完全フォーマットを行う必要があります。

G2 VM

G2 マシンタイプを使用する VM は、継続利用割引とフレキシブル確約利用割引の対象外となります。
G2 マシンタイプは、特定のリージョンとゾーンでのみ使用できます。
G2 マシンタイプを使用する VM では、リージョン Persistent Disk を使用できません。
G2 マシンタイプは、Cascade Lake プラットフォームでのみ使用できます。
標準 Persistent Disk（pd-standard）は、G2 標準マシンタイプを使用する VM ではサポートされません。サポートされているディスクタイプについては、G2 でサポートされているディスクタイプをご覧ください。
G2 マシンタイプでマルチインスタンス GPU を作成することはできません。
G2 VM のマシンタイプを変更する必要がある場合は、アクセラレータ最適化 VM を変更するをご覧ください。
G2 マシンタイプを使用する VM のブートディスクに Deep Learning VM Image を使用することはできません。
Container-Optimized OS の現在のデフォルトドライバは、G2 マシンタイプで実行される L4 GPU をサポートしていません。Container-Optimized OS は、特定のドライバセットのみをサポートしています。G2 マシンタイプで Container-Optimized OS を使用する場合は、次の点に注意してください。
- 推奨される最小の NVIDIA ドライババージョン 525.60.13 以降をサポートする Container-Optimized OS のバージョンを使用します。詳細については、Container-Optimized OS のリリースノートをご覧ください。
- ドライバをインストールするときに、L4 GPU で動作する最新のバージョンを指定します。例: sudo cos-extensions install gpu -- -version=525.60.13。
次のシナリオでは、Google Cloud CLI または REST を使用して G2 VM を作成する必要があります。
- カスタムメモリ値を指定する必要があります。
- 表示可能な CPU コアの数をカスタマイズする必要があります。

ドライバをインストールする

VM で GPU を使用するには、VM に GPU ドライバをインストールする必要があります。

例

以下の例では、Google Cloud CLI を使用してほとんどの VM を作成しています。ただし、Google Cloud コンソールまたは REST を使用して、これらの VM を作成することもできます。

これらの例は、次のイメージを使用して VM を作成する方法を示しています。

Deep Learning VM Image。この例では A2 標準（a2-highgpu-1g）VM を使用します。
Container-Optimized（COS）イメージ。この例では、a3-highgpu-8g VM または a3-edgegpu-8g VM を使用します。
公開イメージ。この例では G2 VM を使用します。

COS（A3 Edge/High）

Container-Optimized（COS）イメージを使用して、H100 GPU をアタッチした a3-edgegpu-8g VM または a3-highgpu-8g VM を作成できます。

Container-Optimized OS を使用するこれらの a3-edgegpu-8g VM または a3-highgpu-8g VM の詳しい作成方法については、GPUDirect-TCPX を有効にして A3 VM を作成するをご覧ください。

公開 OS イメージ（G2）

Compute Engine で利用可能な公開イメージまたはカスタムイメージのいずれかを使用する GPU が接続された VM を作成できます。

g2-standard-8 マシンタイプを使用し、NVIDIA RTX 仮想ワークステーションを備えた Google Cloud イメージファミリー用に最適化された Rocky Linux 8 の非推奨でない最新のイメージを使用して VM を作成するには、以下の手順を行います。

VM を作成します。この例では、ブートディスクのタイプやサイズなどのオプションのフラグも指定されています。

gcloud compute instances create VM_NAME \
    --project=PROJECT_ID \
    --zone=ZONE \
    --machine-type=g2-standard-8  \
    --maintenance-policy=TERMINATE --restart-on-failure \
    --network-interface=nic-type=GVNIC \
    --accelerator=type=nvidia-l4-vws,count=1 \
    --image-family=rocky-linux-8-optimized-gcp \
    --image-project=rocky-linux-cloud \
    --boot-disk-size=200GB \
    --boot-disk-type=pd-ssd

次のように置き換えます。

VM_NAME: VM の名前。
PROJECT_ID: プロジェクト ID。
ZONE: VM のゾーン。

NVIDIA ドライバと CUDA をインストールします。NVIDIA L4 GPU には、CUDA バージョン XX 以降が必要です。

DLVM イメージ（A2）

すでに NVIDIA ドライバと CUDA ライブラリがプリインストールされているため、DLVM イメージを使用するのが最も簡単な方法です。

これらのイメージは、パフォーマンスの最適化にも役立ちます。

NVIDIA A100 では、次の DLVM イメージがサポートされています。

common-cu110: NVIDIA ドライバと CUDA がプリインストールされています
tf-ent-1-15-cu110: NVIDIA ドライバ、CUDA、TensorFlow Enterprise 1.15.3 がプリインストールされています
tf2-ent-2-1-cu110: NVIDIA ドライバ、CUDA、TensorFlow Enterprise 2.1.1 がプリインストールされています
tf2-ent-2-3-cu110: NVIDIA ドライバ、CUDA、TensorFlow Enterprise 2.3.1 がプリインストールされています
pytorch-1-6-cu110: NVIDIA ドライバ、CUDA、Pytorch 1.6

使用可能な DLVM イメージと、イメージにインストールされているパッケージの詳細については、ディープラーニング VM のドキュメントをご覧ください。

tf2-ent-2-3-cu110 イメージと a2-highgpu-1g マシンタイプを使用して VM を作成します。この例では、ブートディスクのサイズやスコープなどのオプションのフラグが指定されています。

gcloud compute instances create VM_NAME \
   --project PROJECT_ID \
   --zone ZONE \
   --machine-type a2-highgpu-1g \
   --maintenance-policy TERMINATE \
   --image-family tf2-ent-2-3-cu110 \
   --image-project deeplearning-platform-release \
   --boot-disk-size 200GB \
   --metadata "install-nvidia-driver=True,proxy-mode=project_editors" \
   --scopes https://www.googleapis.com/auth/cloud-platform

次のように置き換えます。

VM_NAME: VM の名前。
PROJECT_ID: プロジェクト ID。
ZONE: VM のゾーン。

上記のコマンドの例では、VM の Vertex AI Workbench ユーザー管理ノートブックインスタンスも生成されます。ノートブックにアクセスするには、Google Cloud コンソールで [Vertex AI Workbench] > [ユーザー管理のノートブック] ページに移動します。

[ユーザー管理のノートブック] ページに移動

マルチインスタンス GPU（A3 VM と A2 VM のみ）

マルチインスタンス GPU は、単一の NVIDIA H100 または A100 GPU を、同じ VM 内にある最大 7 つの独立した GPU インスタンスに分割します。これらは、それぞれ独自のメモリ、キャッシュ、ストリーミングマルチプロセッサを備え、同時に実行されます。この設定により、NVIDIA H100 または A100 GPU は、以前の GPU モデルと比較して最大 7 倍高い品質保証（QoS）を提供できます。

最大 7 つのマルチインスタンス GPU を作成できます。A100 40 GB GPU の場合、各マルチインスタンス GPU に 5 GB のメモリが割り当てられます。A100 80 GB GPU と H100 80 GB GPU では、割り当てられるメモリがそれぞれ 2 倍の 10 GB になります。

マルチインスタンス GPU の使用について詳しくは、NVIDIA マルチインスタンス GPU ユーザーガイドをご覧ください。

マルチインスタンス GPU を作成する手順は次のとおりです。

A3 または A2 アクセラレータ最適化 VM を作成します。
NVIDIA GPU ドライバを有効にします。

上級者向けのヒント: Deep Learning VM Image を使用して VM を作成すると、この手順をスキップできます。各 Deep Learning VM Image には NVIDIA GPU ドライバがプリインストールされています。
マルチインスタンス GPU を有効にします。
```
sudo nvidia-smi -mig 1
```

利用可能な複数インスタンスの GPU シェイプを確認します。

sudo nvidia-smi mig --list-gpu-instance-profiles

出力は次のようになります。

+-----------------------------------------------------------------------------+
| GPU instance profiles:                                                      |
| GPU   Name             ID    Instances   Memory     P2P    SM    DEC   ENC  |
|                              Free/Total   GiB              CE    JPEG  OFA  |
|=============================================================================|
|   0  MIG 1g.10gb       19     7/7        9.62       No     16     1     0   |
|                                                             1     1     0   |
+-----------------------------------------------------------------------------+
|   0  MIG 1g.10gb+me    20     1/1        9.62       No     16     1     0   |
|                                                             1     1     1   |
+-----------------------------------------------------------------------------+
|   0  MIG 1g.20gb       15     4/4        19.50      No     26     1     0   |
|                                                             1     1     0   |
+-----------------------------------------------------------------------------+
|   0  MIG 2g.20gb       14     3/3        19.50      No     32     2     0   |
|                                                             2     2     0   |
+-----------------------------------------------------------------------------+
|   0  MIG 3g.40gb        9     2/2        39.25      No     60     3     0   |
|                                                             3     3     0   |
+-----------------------------------------------------------------------------+
.......

必要なマルチインスタンス GPU（GI）と関連するコンピューティングインスタンス（CI）を作成します。これらのインスタンスを作成するには、プロファイル名（完全または短縮）とプロファイル ID の一方、または両方の組み合わせを指定します。詳細については、 GPU インスタンスの作成をご覧ください。

次の例では、プロファイル ID（9）を使用して 2 つの MIG 3g.20gb GPU インスタンスを作成します。

-C フラグも指定されているため、必要なプロファイル用の関連付けられたコンピューティングインスタンスが作成されます。
```
sudo nvidia-smi mig -cgi 9,9 -C
```
2 つのマルチインスタンス GPU が作成されていることを確認します。
```
sudo nvidia-smi mig -lgi
```

GI と、それに対応する CI の両方が作成されていることを確認します。

sudo nvidia-smi

出力は次のようになります。

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 525.125.06   Driver Version: 525.125.06   CUDA Version: 12.0     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  NVIDIA H100 80G...  Off  | 00000000:04:00.0 Off |                   On |
| N/A   33C    P0    70W / 700W |     39MiB / 81559MiB |     N/A      Default |
|                               |                      |              Enabled |
+-------------------------------+----------------------+----------------------+
|   1  NVIDIA H100 80G...  Off  | 00000000:05:00.0 Off |                   On |
| N/A   32C    P0    69W / 700W |     39MiB / 81559MiB |     N/A      Default |
|                               |                      |              Enabled |
+-------------------------------+----------------------+----------------------+
......

+-----------------------------------------------------------------------------+
| MIG devices:                                                                |
+------------------+----------------------+-----------+-----------------------+
| GPU  GI  CI  MIG |         Memory-Usage |        Vol|         Shared        |
|      ID  ID  Dev |           BAR1-Usage | SM     Unc| CE  ENC  DEC  OFA  JPG|
|                  |                      |        ECC|                       |
|==================+======================+===========+=======================|
|  0    1   0   0  |     19MiB / 40192MiB | 60      0 |  3   0    3    0    3 |
|                  |      0MiB / 65535MiB |           |                       |
+------------------+----------------------+-----------+-----------------------+
|  0    2   0   1  |     19MiB / 40192MiB | 60      0 |  3   0    3    0    3 |
|                  |      0MiB / 65535MiB |           |                       |
+------------------+----------------------+-----------+-----------------------+
......

+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+

次のステップ

GPU プラットフォームの詳細を学習する。
ローカル SSD をインスタンスに追加する。アプリで高性能のストレージが必要な場合に、ローカル SSD デバイスを GPU と効率的に組み合わせる。
GPU ドライバをインストールする。
NVIDIA RTX 仮想ワークステーションを有効にした場合は、仮想ワークステーション用のドライバをインストールする。
GPU ホストメンテナンスを処理する。GPU ホストメンテナンスイベントの処理をご覧ください。

アクセラレータ最適化 VM を作成する

始める前に

Console

gcloud

REST

必要なロール

必要な権限

GPU がアタッチされた VM を作成する

コンソール

gcloud

REST

制限事項

A3 VM

A2 標準 VM

A2 Ultra VM

G2 VM

ドライバをインストールする

例

COS（A3 Edge/High）

公開 OS イメージ（G2）

DLVM イメージ（A2）

マルチインスタンス GPU（A3 VM と A2 VM のみ）

次のステップ