デベロッパー

GKE マネージド DRANET を使用した Autopilot クラスタ: GPU と TPU

2026年7月31日

https://storage.googleapis.com/gweb-cloudblog-publish/images/0-hero_pfrvm6j.max-2500x2500.png

Ammett Williams

Developer Relations Engineer

※この投稿は米国時間 2026 年 7 月 9 日に、Google Cloud blog に投稿されたものの抄訳です。

Google Kubernetes Engine（GKE）マネージド DRANET は、GPU と TPU の両方をサポートしています。この実装を使用するための構成には、標準クラスタ（ユーザーが完全に制御する）や Autopilot クラスタ（Google によって複雑な構成が自動的に行われる）など、いくつかあります。私自身、これまでその機能を検証してきましたが、このブログでは、Autopilot クラスタの設定について説明します。

Autopilot とマネージド DRANET

GKE Autopilot は、ノード、スケーリング、セキュリティ、その他の事前構成された設定を処理する、GKE のマネージドバージョンです。GKE マネージド DRANET を使用すると、ネットワーキングリソースをリクエストして Pod に割り当てることができます。たとえば、TPU およびリモートダイレクトメモリアクセス（RDMA）をサポートするネットワークインターフェースを割り当てられます。

設定フロー

GKE Autopilot クラスタをデプロイしてマネージド DRANET を有効にするには、Virtual Private Cloud（VPC）を作成する必要があります。その設定を見ていきましょう。

Autopilot クラスタをデプロイする。
アクセラレータタイプ（TPU または GPU）をサポートするカスタム ComputeClass を作成する。
GPU（RDMA）または非 GPU（TPU）の ResourceClaimTemplate を作成する。
ワークロードをデプロイし、ComputeClass と ResourceClaimTemplate を参照して、適切なネットワーキングを設定する。

次に、TPU と GPU の両方の構成について見ていきましょう。

次のように変数を構成します。

読み込んでいます...

次のように置き換えます。

REGION: クラスタを作成するリージョン（us-east1 など）。クラスタは、予約またはリソースが存在するリージョンでのみ作成できます。
CLUSTER_NAME: クラスタの名前（例: dranet-cluster）。
NETWORK: VPC ネットワークの名前。
SUBNETWORK: VPC 内のサブネットの名前。
RESERVATION_URL: リソースの作成に使用する予約の URL。
HUGGING_FACE_TOKEN: モデルをダウンロードするための Hugging Face アクセストークン。

1. Autopilot クラスタをデプロイする

Autopilot クラスタをデプロイします。

読み込んでいます...

2. カスタム ComputeClass を作成する

例: GPU B200 カスタム ComputeClass（マネージド DRANET をサポートし、予約を使用）

読み込んでいます...

次のように置き換えます。

${RESERVATION} : リソースの作成に使用する予約の URL に置き換えます。
${PROJECT_ID}: 使用しているプロジェクトの ID に置き換えます。

または、ターミナルで変数を設定し、次のコマンドを使用して作成時に変数を渡すこともできます:

envsubst < filename.yaml | kubectl apply -f -

例: TPU v6e カスタム ComputeClass（オンデマンド）の例

読み込んでいます...

3. ResourceClaimTemplate を作成する

GPU の RDMA サポート deviceClassName: mrdma.google.com ResourceClaimTemplate の例:

読み込んでいます...

TPU の非 RDMA deviceClassName: netdev.google.com ResourceClaimTemplate の例:

読み込んでいます...

4. ワークロードをデプロイし、ComputeClass と ResourceClaim を参照する

クラスタに Secret を作成します。

読み込んでいます...

GPU のデプロイの例:

読み込んでいます...

apiVersion: apps/v1
kind: Deployment
metadata:
  name: gemma-4-31-deploy
spec:
  replicas: 2
  selector:
    matchLabels:
      app: gemma4
  template:
    metadata:
      labels:
        app: gemma4
        ai.gke.io/model: gemma-4-31b
        ai.gke.io/inference-server: vllm
    spec:
      resourceClaims:
      - name: rdma-claim        
        resourceClaimTemplateName: all-mrdma
      containers:
      - name: vllm-inference
        image: us-docker.pkg.dev/vertex-ai/vertex-vision-model-garden-dockers/pytorch-vllm-serve:gemma4
        resources:
          requests:
            cpu: "10"
            memory: "1000Gi"
            ephemeral-storage: "1Ti"
            nvidia.com/gpu: "8"
          limits:
            cpu: "10"
            memory: "1000Gi"
            ephemeral-storage: "1Ti"
            nvidia.com/gpu: "8"
          claims:
          - name: rdma-claim
        command: ["python3", "-m", "vllm.entrypoints.openai.api_server"]
        args:
        - --model=$(MODEL_ID)
        - --tensor-parallel-size=8
        - --host=0.0.0.0
        - --port=8000
        - --max-model-len=131072
        - --max-num-seqs=16
        - --enable-chunked-prefill
        - --gpu-memory-utilization=0.90
        env:
        - name: MODEL_ID
          value: google/gemma-4-31B
        - name: HUGGING_FACE_HUB_TOKEN
          valueFrom:
            secretKeyRef:
              name: hf-secret
              key: hf_token
        volumeMounts:
        - mountPath: /dev/shm
          name: dshm
        startupProbe:
          httpGet:
            path: /health
            port: 8000
          failureThreshold: 240
          periodSeconds: 10
        livenessProbe:
          httpGet:
            path: /health
            port: 8000
          periodSeconds: 10
        readinessProbe:
          httpGet:
            path: /health
            port: 8000
          periodSeconds: 5
      volumes:
      - name: dshm
        emptyDir:
          medium: Memory
      nodeSelector:
        cloud.google.com/compute-class: dranet-a4-computeclass

Deployment が ResourceClaimTemplate と ComputeClass をどのように参照しているかに注目してください。これが開始されると、スケールアップオペレーションがトリガーされます。GKE Autopilot は ComputeClass を読み取って、特定のノードタイプをプロビジョニングし、マネージド DRANET ネットワーキングを構成します。一方、リソースクレームはブリッジとして機能し、Pod をノード上のアクセラレータに直接バインドします。このプロセスは TPU でもまったく同じように機能します。