Compute Engine は、仮想マシン(VM)に追加できるグラフィック プロセッシング ユニット(GPU)を備えています。これらの GPU を使用して、VM で実行される ML やデータ処理などの特定のワークロードを高速化できます。
このドキュメントでは、GPU がアタッチされた VM を作成するために必要な手順の概要について説明します。
Compute Engine 上の GPU の詳細については、GPU についてをご覧ください。
GPU モデルを選択する
利用可能な GPU モデルのリストについては、GPU プラットフォームをご覧ください。また、選択した GPU モデルでサポートされているマシンタイプをメモしておいてください。
モデルごとに、次の点も確認することをおすすめします。
- サポートされているリージョンとゾーン。
- GPU の料金。VM で各 GPU モデルを使用する際の料金を確認します。アクセラレータ最適化マシンを使用する VM については、VM インスタンスの料金もご覧ください。
- GPU を備えた VM の制限事項を確認します。
オペレーティング システムを選択する
ML 用に GPU を使用している場合は、VM に Deep Learning VM イメージを使用できます。Deep Learning VM Image ごとに GPU ドライバがプリインストールされ、TensorFlow や PyTorch などのパッケージも含まれています。一般的な GPU ワークロードに Deep Learning VM Image を使用することもできます。使用可能なイメージとイメージにインストールされているパッケージの詳細については、イメージの選択をご覧ください。公開イメージやカスタム イメージを使用することもできますが、一部のイメージでは、このドキュメントで説明されていない独自のドライバやインストール プロセスが必要な場合があります。
OS イメージに適したドライバを確認する必要があります。ドライバをインストールする手順については、GPU ドライバのインストールをご覧ください。
GPU 割り当てを確認する
Compute Engine システムとユーザーを保護するため、新しいプロジェクトにはグローバル GPU 割り当てが設定されます。この割り当ては、サポート対象のすべてのゾーンで作成できる GPU の総数を制限するものです。GPU の割り当てを確認するには、GPU の割り当てをご覧ください。
追加の GPU 割り当てが必要な場合は、割り当ての増加をリクエストします。GPU 割り当てをリクエストするときは、各リージョンで作成する GPU タイプに対する割り当てと、すべてのゾーンのすべての GPU タイプの合計数に対する追加のグローバル割り当てをリクエストする必要があります。
プロジェクトに確定済みのお支払い履歴がある場合、リクエストの送信後に割り当てが自動的にプロジェクトで受信されます。
GPU VM とプリエンプティブルの数量に基づく割り当て
デフォルトの標準プロビジョニング モデル(標準 VM)を使用する VM のリソースは、通常、プリエンプティブルな数量に基づく割り当てを使用できません。この割り当ては、一時的なワークロードを対象としており、通常はより利用しやすいものです。プロジェクトにプリエンプティブル割り当てがなく、プリエンプティブル割り当てをリクエストしたことがない場合、そのプロジェクト内のすべての VM は標準割り当てを使用します。
ただし、プリエンプティブルな数量に基づく割り当てをリクエストすると、次のすべての条件を満たす標準 VM は、プリエンプティブルな数量に基づく割り当てのみ使用できます。
- VM に GPU が接続されている。これは、GPU が接続された N1 VM またはアクセラレータ最適化 VM のいずれかです。
- VM は、事前に定義された 7 日以下の実行時間の後に自動的に削除されるように、次のいずれかの方法で構成されている。
maxRunDuration
フィールドまたはterminationTime
フィールドを使用する。詳細については、VM の実行時間を制限するまたは MIG 内の VM の実行時間を制限するをご覧ください。requestedRunDuration
フィールドを使用する(マネージド インスタンス グループ(MIG)でのみ使用可能)。詳細については、MIG のサイズ変更リクエストについてをご覧ください。
- VM が予約を使用できない。詳細については、予約を使用せずに VM を作成するをご覧ください。
このようなワークロードにプリエンプティブルな数量に基づく割り当てを使用することで、標準 VM の連続実行時間とプリエンプティブルな数量に基づく割り当ての取得可能性の向上というメリットを両方得ることができます。
使用されている割り当てに関係なく、標準 VM は Spot VM の料金の対象ではなく、プリエンプションの対象にもなりません。
詳細については、プリエンプティブル割り当てをご覧ください。
GPU が接続された VM を作成する
GPU がアタッチされた VM を作成するには、次の操作を行います。
VM を作成します。VM の作成に使用されるメソッドは GPU のモデルによって異なります。
- NVIDIA H100、A100、L4 の GPU が接続された VM を作成するには、アクセラレータ最適化 VM を作成するをご覧ください。
- NVIDIA T4、P4、P100、V100 の GPU が接続された VM を作成するには、GPU が接続された N1 VM を作成するをご覧ください。
VM で GPU を使用するには、VM に GPU ドライバをインストールする必要があります。NVIDIA RTX 仮想ワークステーション(旧称 NVIDIA GRID)を有効にした場合は、仮想ワークステーション用のドライバをインストールします。
次のステップ
GPU プラットフォームの詳細を学習する。
GPU を使用する際の機能と制限事項について学習する。
GPU の実際の使用量と予測される使用量を表示する方法を学習する。