GPU の実行

このページでは、Google Kubernetes Engine（GKE）クラスタのノードで NVIDIA® グラフィックスプロセシングユニット（GPU）ハードウェアアクセラレータを使用する方法を説明します。

概要

GKE では、次の NVIDIA Tesla® GPU を装備したノードプールを作成できます。K80、P100、P4、V100、T4、A100（ベータ版）。GPU は、画像認識や自然言語処理のほか、動画のコード変換や画像処理などの多くのコンピューティング処理を必要とするタスクなど、ディープラーニングタスクを稼働させるための計算能力を提供します。

ワークロードが頻繁なノード中断を許容できるのであれば、GPU をプリエンプティブル VM で使用することもできます。プリエンプティブル VM を使用することで、GPU 実行時の料金を下げることができます。詳しくは、プリエンプティブルインスタンスの GPU をご覧ください。

要件

GKE 上の GPU には、以下の要件があります。

Kubernetes バージョン: Container-Optimized OS ノードイメージを使用するノードプールの場合、GPU ノードは GKE バージョン 1.9 以降で使用できます。Ubuntu ノードイメージを使用するノードプールの場合、GPU ノードは GKE バージョン 1.11.3 以降で使用できます。
GPU の割り当て: GPU ノードを作成する前に、目的のゾーンに Compute Engine GPU の割り当てが必要です。プロジェクトに十分な GPU 割り当てがあるか確認するには、Google Cloud Console で割り当てをご覧ください。

追加の GPU 割り当てが必要な場合は、Cloud Console で GPU 割り当てをリクエストする必要があります。請求先アカウントが設定されている場合は、割り当てリクエストを送信すると、プロジェクトに自動的に割り当てが設定されます。

注: デフォルトでは、無料トライアルアカウントに GPU 割り当ては設定されません。
NVIDIA GPU ドライバ: NVIDIA GPU ドライバをノードに手動でインストールする必要があります。このページの下部では、ドライバのインストール方法について説明します。
A100 GPU: A100 GPU は a2 マシンタイプでのみサポートされており、GKE バージョン 1.18.6-gke.3504 以降が必要です。

制限事項

GPU を GKE で使用する前に、以下の制限事項に留意してください。

既存のノードプールに GPU を追加することはできません。
メンテナンスイベント中に GPU ノードをライブマイグレーションすることはできません。
GPU は現在、汎用 N1 マシンタイプでのみサポートされています。

ご利用対象

GPU は特定のリージョンとゾーンで利用できます。GPU 割り当てをリクエストするときは、クラスタを実行するリージョンについて考慮してください。

適用可能なリージョンとゾーンの完全なリストについては、Compute Engine の GPU をご覧ください。

ゾーンで使用できる GPU を確認するには、gcloud コマンドラインツールを使用します。各ゾーンでサポートされているすべての GPU アクセラレータタイプのリストを表示するには、次のコマンドを実行します。

gcloud compute accelerator-types list

料金

GPU の料金情報については、Google Cloud GPU ページの料金表をご覧ください。

GPU 割り当て

GPU 割り当てとは、Google Cloud プロジェクトで実行できる GPU の合計数です。GPU を搭載したクラスタを作成するには、プロジェクトに十分な GPU 割り当てが必要です。

GPU 割り当ては、クラスタで実行する GPU の総数以上である必要があります。クラスタの自動スケーリングを有効にする場合は、クラスタの最大ノード数にノードあたりの GPU 数を掛けた数以上の GPU 割り当てをリクエストする必要があります。

たとえば、3 つのノードを持つクラスタを作成してノードごとに 2 つの GPU を実行する場合、少なくとも 6 つの GPU 割り当てがプロジェクトに必要です。

GPU 割り当てのリクエスト

GPU 割り当てをリクエストするには、Cloud Console を使用します。割り当てのリクエストについて詳しくは、Compute Engine ドキュメントの追加の割り当てをリクエストするをご覧ください。

GPU 割り当ての検索

GPU 割り当てを検索するには、Cloud Console で次の手順を行います。

Cloud Console の Identity and Access Management（IAM）の [割り当て] メニューに移動します。

[割り当て] メニューに移動
[指標] プルダウンメニューで [なし] をクリックし、検索フィールドに「gpus」と入力します。
検索結果から、目的の GPU を選択します。
[指標] プルダウンメニューを閉じます。

割り当てリクエストを送信する

割り当てリクエストを送信するには、Cloud Console で次の手順を行います。

GPU 割り当ての一覧から、us-central1 など、必要とするリージョンの割り当てを選択します。
[割り当てを編集] をクリックします。リクエストフォームが Cloud Console の右側に表示されます。
各割り当てリクエストの [新しい割り当て上限] フィールドを入力します。
[リクエストの説明] フィールドに、リクエストの詳細を入力します。
[完了] をクリックします。
[リクエストを送信] をクリックします。

GPU の実行

次のセクションでは、GPU を GKE クラスタで実行する方法について説明します。

自動スケーリング GPU ノードプールの作成

GKE 上の GPU の最良で最もコスト効率の良いメリットを享受し、クラスタ自動スケーリングを活用するには、クラスタ内に別々の GPU ノードプールを作成することをおすすめします。

すでに非 GPU ノードプールを実行している既存のクラスタに GPU ノードプールを追加すると、GKE が自動的に次のノード taint を使用して GPU ノードを taint します。

キー: nvidia.com/gpu
効果: NoSchedule

加えて、GKE は、ExtendedResourceToleration アドミッションコントローラを実行することにより、GPU をリクエストしている Pod に対応する容認できる範囲を自動的に適用します。

これにより、GPU を要求している Pod のみが GPU ノードでスケジュールされ、より効率的な自動スケーリングが可能になります。GPU を要求している Pod が不足している場合は、GPU ノードを簡単に縮小できます。

Cloud Console または gcloud コマンドラインツールを使用して、既存のクラスタに GPU ノードプールを作成します。

gcloud

GPU を搭載したノードプールを作成するには、次のコマンドを実行します。

gcloud container node-pools create POOL_NAME \
  --accelerator type=GPU_TYPE,count=AMOUNT \
  --zone COMPUTE_ZONE --cluster CLUSTER_NAME \
  [--num-nodes 3 --min-nodes 0 --max-nodes 5 --enable-autoscaling
  --machine-type a2-highgpu-1g]

次のように置き換えます。

POOL_NAME: ノードプールに付ける名前。
GPU_TYPE: GPU タイプ（nvidia-tesla-k80、nvidia-tesla-p100、nvidia-tesla-p4、nvidia-tesla-v100、nvidia-tesla-t4、nvidia-tesla-a100）。
AMOUNT: ノードプール内のノードに接続する GPU の数。
COMPUTE_ZONE: ノードグループを作成するコンピューティングゾーン（us-central1-c など）。クラスタは、指定されたゾーンですでに動作している必要があります。
CLUSTER_NAME: ノードプールを作成するクラスタの名前。

その他のオプションは次のとおりです。

--num-nodes は、作成するノードの初期数を指定します。
--min-nodes は、任意の時点で実行されるノード数の下限を指定します。
--max-nodes は、実行できるノード数の上限を指定します。
--enable-autoscaling を使用すると、ワークロードの需要が変化したときにノードプールを自動スケーリングできるようになります。
--machine-type は、ノードのマシンタイプを指定します。nvidia-tesla-a100 GPU に必要です。GPU は a2 マシンタイプでのみ実行できます。

たとえば、次のコマンドは、クラスタ p100-cluster 内に 2 つの P100 GPU を使用する自動スケーリングノードプール p100 を作成します。

gcloud container node-pools create p100 \
  --accelerator type=nvidia-tesla-p100,count=2 \
  --zone us-central1-c --cluster p100-cluster \
  --num-nodes 3 --min-nodes 0 --max-nodes 5 --enable-autoscaling

Console

GPU を使用するノードプールを作成するには、次のようにします。

Cloud Console で Google Kubernetes Engine のメニューに移動します。

Google Kubernetes Engine のメニューに移動
クラスタのリストで、変更するクラスタの名前をクリックします。
[ ノードプールを追加] をクリックします。
必要に応じて、[ノードプールの詳細] ページで [自動スケーリングを有効にする] チェックボックスをオンにします。
必要に応じてノードプールを構成します。
ナビゲーションパネルで [ノード] を選択します。
[マシンファミリー] で [GPU] をクリックします。
各ノードで実行する [GPU のタイプ] と [GPU の数] を選択します。
警告を読み、[制限について理解しています] を選択します。
必要に応じてマシンを構成します。
[作成] をクリックします。

GPU を使用した新しいゾーンクラスタを作成する

Cloud Console または gcloud コマンドラインツールを使用して GPU を実行するゾーンクラスタを作成します。

gcloud

GPU をデフォルトのノードプールで実行するゾーンクラスタを作成するには、次のコマンドを実行します。

gcloud container clusters create CLUSTER_NAME \
  --accelerator type=GPU_TYPE,count=AMOUNT \
  --zone COMPUTE_ZONE

次のように置き換えます。

CLUSTER_NAME: クラスタに付ける名前。
GPU_TYPE: GPU タイプ（nvidia-tesla-k80、nvidia-tesla-p100、nvidia-tesla-p4、nvidia-tesla-v100、nvidia-tesla-t4、nvidia-tesla-a100）。
AMOUNT: デフォルトのノードプールで実行する GPU の数。
COMPUTE_ZONE: クラスタのコンピューティングゾーン（us-central1-c など）。

たとえば、次のコマンドは、3 つのノード（--num-nodes 省略時のデフォルト）とノードごとに 2 つの P100 GPU を持つクラスタ p100 を作成します。

gcloud container clusters create p100 \
  --accelerator type=nvidia-tesla-p100,count=2 \
  --zone us-central1-c

Console

[GPU による高速コンピューティング] クラスタテンプレートに移動します。

[GPU による高速コンピューティング] テンプレートに移動
必要に応じてクラスタを構成します。次に、GPU ノードプールをカスタマイズするか、新たな GPU ノードプールを追加します。
警告を読み、[制限について理解しています] を選択します。
[作成] をクリックします。

GPU を使用した新しいリージョンクラスタを作成する

デフォルトでは、リージョンクラスタはリージョン内の 3 つのゾーンにノードを作成します。ただし、3 つのゾーンのすべてに GPU がある Google Cloud リージョンはありません。GPU を搭載したリージョンクラスタを作成するときは、--node-locations コマンドを使用してゾーンを指定する必要があります。このコマンドは、クラスタの作成後に使用することもできます。どのゾーンに GPU があるか調べるには、提供状況をご覧ください。

リージョン GPU クラスタを作成するには、gcloud コマンドラインツールまたは Cloud Console を使用します。

gcloud

GPU を搭載したリージョンクラスタを作成するには、次のコマンドを実行します。

gcloud container clusters create CLUSTER_NAME \
  --accelerator type=GPU_TYPE,count=AMOUNT \
  --region COMPUTE_REGION \
  --node-locations COMPUTE_ZONE,COMPUTE_ZONE1

次のように置き換えます。

CLUSTER_NAME: クラスタに付ける名前。
GPU_TYPE: GPU タイプ（nvidia-tesla-k80、nvidia-tesla-p100、nvidia-tesla-p4、nvidia-tesla-v100、nvidia-tesla-t4、または nvidia-tesla-a100）。
AMOUNT: ノードごとに実行する GPU の数。
COMPUTE_REGION: クラスタのリージョン（us-central1 など）。
COMPUTE_ZONE,COMPUTE_ZONE1,[...]: ノードを作成するゾーン。ゾーンは、--region フラグで指定された、クラスタのコントロールプレーンと同じ COMPUTE_REGION に存在する必要があります。ゾーンには、指定した GPU タイプが存在する必要があります。

たとえば、次のコマンドは、us-central1 内の 2 つのゾーンに 3 つのノード（--num-nodes 省略時のデフォルト）とノードごとに 2 つの P100 GPU を持つクラスタ p100 を作成します。

gcloud container clusters create p100 \
  --accelerator type=nvidia-tesla-p100,count=2 \
  --region us-central1 \
  --node-locations us-central1-a,us-central1-c

Console

[GPU による高速コンピューティング] クラスタテンプレートに移動します。

[GPU による高速コンピューティング] テンプレートに移動
[ロケーションタイプ] で [リージョン] を選択します。
[リージョン] プルダウンリストで、目的のリージョンを選択します。
必要に応じてクラスタを構成します。次に、GPU ノードプールをカスタマイズするか、新たな GPU ノードプールを追加します。
警告を読み、[制限について理解しています] を選択します。
[作成] をクリックします。

NVIDIA GPU デバイスドライバのインストール

クラスタに GPU ノードを追加したら、NVIDIA のデバイスドライバをノードにインストールする必要があります。Google は、ドライバのインストールに適用できる DaemonSet を提供しています。

Container-Optimized OS（COS）ノードおよび Ubuntu ノードのインストール手順については、下記のセクションをご覧ください。

COS

インストール用の DaemonSet をデプロイするには、次のコマンドを実行します。

kubectl apply -f https://raw.githubusercontent.com/GoogleCloudPlatform/container-engine-accelerators/master/nvidia-driver-installer/cos/daemonset-preloaded.yaml

インストールには数秒かかります。インストールが完了すると、NVIDIA GPU デバイスプラグインが Kubernetes API を介して NVIDIA GPU の容量を明らかにします。

次の表に、それぞれの GKE バージョンがサポートする Nvidia ドライバのバージョンを示します。

GKE バージョン	NVIDIA ドライバ
1.18.6-gke.3504 以上	450.51.06
1.14.x 以降	418.67

Ubuntu

GPU サポートには、Ubuntu ノードに v1.11.3 以上が必要です。

インストール用の DaemonSet をデプロイするには、次のコマンドを実行します。

kubectl apply -f https://raw.githubusercontent.com/GoogleCloudPlatform/container-engine-accelerators/master/nvidia-driver-installer/ubuntu/daemonset-preloaded.yaml

次の表に、それぞれの GKE バージョンがサポートする Nvidia ドライバのバージョンを示します。

GKE バージョン	NVIDIA ドライバ
1.19.8-gke.1200 以上	450.102.04
1.14.6-gke.13 以上	418.74
1.14.6-gke.12 以下	410.104
1.13.9-gke.11 以上	418.74
1.13.9-gke.10 以下	410.104

GPU を使用するように Pod を構成する

リソース制限を使用して、Pod が GPU を使用するように構成します。リソース制限を Pod 仕様で指定するには、次の Key-Value ペアを使用します。

キー: nvidia.com/gpu
値: 使用する GPU の数

GPU を使用する Pod 仕様の例を下記に示します。

apiVersion: v1
kind: Pod
metadata:
  name: my-gpu-pod
spec:
  containers:
  - name: my-gpu-container
    image: nvidia/cuda:10.0-runtime-ubuntu18.04
    command: ["/bin/bash", "-c", "--"]
    args: ["while true; do sleep 600; done;"]
    resources:
      limits:
       nvidia.com/gpu: 2

複数の GPU タイプを使用する

クラスタごとに複数の GPU アクセラレータタイプを使用する場合は、それぞれが独自のアクセラレータタイプを持つ複数のノードプールを作成する必要があります。GKE は、独自のノードセレクタを GPU ノードに接続することにより、特定の GPU タイプのノードに GPU ワークロードを配置できるようにします。

キー: cloud.google.com/gke-accelerator
値: nvidia-tesla-k80、nvidia-tesla-p100、nvidia-tesla-p4、nvidia-tesla-v100、nvidia-tesla-t4、nvidia-tesla-a100 のいずれか。

このノードセレクタをワークロードの Pod 仕様に追加することにより、特定の GPU タイプをターゲットにできます。例:

apiVersion: v1
kind: Pod
metadata:
  name: my-gpu-pod
spec:
  containers:
  - name: my-gpu-container
    image: nvidia/cuda:10.0-runtime-ubuntu18.04
    command: ["/bin/bash", "-c", "--"]
    args: ["while true; do sleep 600; done;"]
    resources:
      limits:
       nvidia.com/gpu: 2
  nodeSelector:
    cloud.google.com/gke-accelerator: nvidia-tesla-k80 # or nvidia-tesla-p100 or nvidia-tesla-p4 or nvidia-tesla-v100 or nvidia-tesla-t4 or nvidia-tesla-a100

CUDA ライブラリについて

CUDA® は、NVIDIA の GPU 用並列コンピューティングプラットフォームおよびプログラミングモデルです。クラスタにインストールする NVIDIA デバイスドライバには、CUDA ライブラリが含まれています。

CUDA ライブラリとデバッグユーティリティは、それぞれ、/usr/local/nvidia/lib64 と /usr/local/nvidia/bin のコンテナ内で利用できます。

NVIDIA GPU を使用する Pod で実行する CUDA アプリケーションは、CUDA ライブラリを動的に検出する必要があります。それには、LD_LIBRARY_PATH 環境変数に /usr/local/nvidia/lib64 を含める必要があります。

GKE の CUDA アプリには、Ubuntu ベースの CUDA Docker ベースイメージを使用する必要があります。ここでは、LD_LIBRARY_PATH がすでに適切に設定されています。サポートされている最新の CUDA バージョンは、COS（1.18.6-gke.3504+）と Ubuntu（1.19.8-gke.1200+）の両方で 11.0 です。

GPU ノードのモニタリング

GKE は、GPU を使用するコンテナを対象に、次の Cloud Monitoring 指標を公開します。これらの指標を使用して、GPU ワークロードのパフォーマンスをモニタリングできます。

デューティサイクル（container/accelerator/duty_cycle）: 過去のサンプル期間（10 秒）に対し、アクセラレータがアクティブに処理していた時間の割合。1～100 までの間。
メモリ使用量（container/accelerator/memory_used）: 割り当てられたアクセラレータメモリの量（バイト単位）。
メモリ容量（container/accelerator/memory_total）: アクセラレータの総メモリ（バイト単位）。

これらの指標は、Cloud Monitoring で使用可能です。

クラスタとそのリソースのモニタリングの詳細については、モニタリングをご覧ください。

使用状況の指標の表示

ワークロードの GPU 使用状況の指標を、Cloud Console の [ワークロード] ダッシュボードで表示できます。

ワークロードの GPU 使用状況を表示には、以下の手順に従います。

Cloud Console の [ワークロード] メニューに移動します。

Google Kubernetes Engine のメニューに移動
目的のワークロードを選択します。

[ワークロード] ダッシュボードに、GPU メモリの使用量と容量、GPU デューティサイクルのグラフが表示されます。

GPU の実行

概要

要件

制限事項

ご利用対象

料金

GPU 割り当て

GPU 割り当てのリクエスト

GPU 割り当ての検索

割り当てリクエストを送信する

GPU の実行

自動スケーリング GPU ノードプールの作成

gcloud

Console

GPU を使用した新しいゾーンクラスタを作成する

gcloud

Console

GPU を使用した新しいリージョン クラスタを作成する

gcloud

Console

NVIDIA GPU デバイス ドライバのインストール

COS

Ubuntu

GPU を使用するように Pod を構成する

複数の GPU タイプを使用する

CUDA ライブラリについて

GPU ノードのモニタリング

使用状況の指標の表示

次のステップ

GPU を使用した新しいリージョンクラスタを作成する

NVIDIA GPU デバイスドライバのインストール