Guide de l'utilisateur des ressources en file d'attente

Les ressources en file d'attente vous permettent de demander des ressources Cloud TPU en file d'attente. Lorsque vous demandez des ressources en file d'attente, la requête est ajoutée à une file d'attente gérée par le service Cloud TPU. Lorsque la ressource demandée devient disponible, elle est attribuée à votre projet Google Cloud pour votre utilisation exclusive immédiate. Elle restera attribuée à votre projet, sauf si vous la supprimez ou si elle est préemptée. Seuls les TPU préemptifs sont éligibles à la préemption.

Vous pouvez éventuellement spécifier une heure de début et une heure de fin dans une requête de ressource en file d'attente. L'heure de début spécifie la première heure à partir de laquelle répondre à la requête. Si une requête n'a pas été satisfaite à l'heure de fin spécifiée, elle expire. La requête reste dans la file d'attente après son expiration.

Les requêtes de ressources mises en file d'attente peuvent présenter l'un des états suivants:

WAITING_FOR_RESOURCES
La requête a passé la validation initiale et a été ajoutée à la file d'attente. Il reste dans cet état jusqu'à ce qu'il y ait suffisamment de ressources libres pour commencer à provisionner votre requête ou jusqu'à ce que l'intervalle d'allocation se soit écoulé. Lorsque la demande est élevée, toutes les requêtes ne peuvent pas être provisionnées immédiatement. Si vous avez besoin d'une obtention plus fiable de TPU, envisagez d'acheter une réservation.
PROVISIONING
La requête a été sélectionnée dans la file d'attente et ses ressources sont en cours d'allocation.
ACTIVE
La demande a été allouée. Lorsque des demandes de ressources en file d'attente sont à l'état ACTIVE, vous pouvez gérer vos VM TPU comme décrit dans la section Gérer les TPU.
FAILED
Impossible de traiter la requête, car elle présente un problème ou les ressources demandées ne sont pas disponibles pendant l'intervalle d'allocation. La requête reste dans la file d'attente jusqu'à ce qu'elle soit explicitement supprimée.
SUSPENDING
Les ressources associées à la requête sont en cours de suppression.
SUSPENDED
Les ressources spécifiées dans la requête ont été supprimées. Lorsqu'une requête présente l'état SUSPENDED, elle ne peut plus être allouée.

Prérequis

Avant d'exécuter les commandes de ce guide, assurez-vous d'avoir effectué les opérations suivantes:

Demander une ressource en file d'attente à la demande

Vous pouvez demander une ressource en file d'attente à la demande à l'aide de la commande gcloud compute tpus queued-resources create. Pour en savoir plus sur les ressources à la demande, consultez la section Types de quotas.

gcloud

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project \
--zone us-central2-b \
--accelerator-type v4-8 \
--runtime-version tpu-vm-tf-2.16.1-pjrt

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-8',
      'runtime_version': 'tpu-vm-tf-2.16.1-pjrt',
    }
  }
}
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Description des paramètres de commande

queued-resource-id
ID attribué par l'utilisateur pour la requête de ressource en file d'attente.
node-id
ID attribué par l'utilisateur du TPU, qui est créé lorsque la requête de ressource en file d'attente est allouée.
project
Votre projet Google Cloud.
zone
Zone dans laquelle vous prévoyez de créer votre Cloud TPU.
accelerator-type
Le type d'accélérateur spécifie la version et la taille de la ressource Cloud TPU que vous souhaitez créer. Pour en savoir plus sur les types d'accélérateurs compatibles avec chaque version de TPU, consultez la section Versions de TPU.
runtime-version
Version du logiciel Cloud TPU.

Tailles de tranche par défaut pour les ressources en file d'attente à la demande

Lorsque vous utilisez un quota à la demande, vous devez demander une taille de tranche inférieure à la limite par défaut pour le type d'accélérateur que vous utilisez. Les requêtes qui dépassent les limites par défaut sont refusées par le système.

Le tableau suivant présente les types de TPU et les limites par défaut associées.

Type d'accélérateur Limite par défaut (en nombre de TensorCores)
v2 128
v3 128
v4 384
v5 32

Si vous avez besoin de tranches de plus grande taille, contactez l'assistance Cloud TPU pour en savoir plus.

Demander une ressource en file d'attente à l'aide d'un quota réservé

Vous pouvez demander une ressource en file d'attente à l'aide d'un quota réservé en spécifiant l'option --reserved dans votre commande gcloud ou guaranteed.reserved=true dans votre requête curl. Pour en savoir plus sur les quotas réservés, consultez la section Types de quotas.

gcloud

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project \
--zone us-central2-b \
--accelerator-type v4-8 \
--runtime-version tpu-vm-tf-2.16.1-pjrt \
--reserved

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-8',
      'runtime_version': 'tpu-vm-tf-2.16.1-pjrt',
    }
  }
},
'guaranteed': {
  'reserved': true,
}
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Description des paramètres de commande

queued-resource-id
ID attribué par l'utilisateur pour la requête de ressource en file d'attente.
node-id
ID attribué par l'utilisateur du TPU, qui est créé lorsque la requête de ressource en file d'attente est allouée.
project
Votre projet Google Cloud.
zone
Zone dans laquelle vous prévoyez de créer votre Cloud TPU.
accelerator-type
Le type d'accélérateur spécifie la version et la taille de la ressource Cloud TPU que vous souhaitez créer. Pour en savoir plus sur les types d'accélérateurs compatibles avec chaque version de TPU, consultez la section Versions de TPU.
runtime-version
Version du logiciel Cloud TPU.
reserved
Utilisez cette option lorsque vous demandez des ressources en file d'attente dans le cadre d'une réservation Cloud TPU.

Demander une ressource préemptive en file d'attente

Vous pouvez demander une ressource préemptive en file d'attente. Une ressource préemptive est une ressource qui peut être attribuée à une autre charge de travail si d'autres charges de travail ont besoin de ressources supplémentaires. Les ressources préemptives coûtent moins cher et vous pouvez avoir accès aux ressources plus tôt qu'une requête non préemptive. Pour en savoir plus sur les quotas préemptifs, consultez la section Types de quotas.

gcloud

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project-id \
--zone us-central2-b \
--accelerator-type v4-8 \
--runtime-version tpu-vm-tf-2.16.1-pjrt \
--best-effort

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-8',
      'runtime_version': 'tpu-vm-tf-2.16.1-pjrt',
    }
  }
},
'best_effort': {}
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Description des paramètres de commande

queued-resource-request-id
ID attribué par l'utilisateur pour la requête de ressource en file d'attente.
node-id
ID défini par l'utilisateur du TPU créé en réponse à la requête.
project
ID du projet dans lequel la ressource en file d'attente est allouée.
zone
Zone dans laquelle vous prévoyez de créer votre Cloud TPU.
accelerator-type
Le type d'accélérateur spécifie la version et la taille de la ressource Cloud TPU que vous souhaitez créer. Pour en savoir plus sur les types d'accélérateurs compatibles avec chaque version de TPU, consultez la section Versions de TPU.
runtime-version
Version du logiciel Cloud TPU.
best-effort
Indicateur booléen spécifiant que la ressource en file d'attente est préemptive.

Demander l'allocation d'une ressource en file d'attente avant ou après une heure spécifiée

Vous pouvez éventuellement spécifier une heure de début, une heure de fin, une durée de début ou une durée de fin dans une requête de ressource en file d'attente. L'heure de début ou la durée de début spécifie le premier moment auquel répondre à la requête. Si une requête n'a pas été satisfaite avant l'heure de fin spécifiée ou pendant la durée spécifiée, la requête expire. Une fois la requête arrivée à expiration, elle reste dans la file d'attente, mais ne peut plus être allouée.

Vous pouvez également spécifier un intervalle d'allocation en indiquant une heure de début ou une durée, et une heure ou une durée de fin.

Consultez la section Date/Heure pour obtenir la liste des formats d'horodatage et de durée acceptés.

Demander une ressource en file d'attente après une durée spécifiée

Vous pouvez spécifier une durée après laquelle une ressource doit être allouée à l'aide de l'option --valid-after-duration. L'exemple suivant demande l'allocation d'une version v4-32 au bout de six heures.

gcloud

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project-id \
--zone us-central2-b \
--accelerator-type v4-32 \
--runtime-version tpu-vm-tf-2.16.1-pod-pjrt \
--valid-after-duration 6h

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-32',
      'runtime_version': 'tpu-vm-tf-2.16.1-pod-pjrt',
    }
  }
},
'queueing_policy': {
  'valid_after_duration': {
    'seconds': 21600
  }
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Description des paramètres de commande

queued-resource-request-id
ID attribué par l'utilisateur pour la requête de ressource en file d'attente.
node-id
ID défini par l'utilisateur du TPU créé en réponse à la requête.
project
Projet Google Cloud dans lequel la ressource en file d'attente est allouée.
zone
Zone dans laquelle vous prévoyez de créer votre Cloud TPU.
accelerator-type
Le type d'accélérateur spécifie la version et la taille de la ressource Cloud TPU que vous souhaitez créer. Pour en savoir plus sur les types d'accélérateurs compatibles avec chaque version de TPU, consultez la section Versions de TPU.
runtime-version
Version du logiciel Cloud TPU.
valid-after-duration
Durée avant laquelle le TPU ne doit pas être provisionné. Pour en savoir plus sur les formats de durée, consultez la section Date et heure de la rubrique Google Cloud CLI.

Demander une ressource en file d'attente qui expire après une durée spécifiée

Vous pouvez spécifier la durée pendant laquelle une requête de ressource en file d'attente reste valide à l'aide de l'option --valid-until-duration. L'exemple suivant demande une version v4-32 qui expire si elle n'est pas remplie dans les six heures.

gcloud

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project-id \
--zone us-central2-b \
--accelerator-type v4-32 \
--runtime-version tpu-vm-tf-2.16.1-pod-pjrt \
--valid-until-duration 6h

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-32',
      'runtime_version': 'tpu-vm-tf-2.16.1-pod-pjrt',
    }
  }
},
'queueing_policy': {
  'valid_until_duration': {
    'seconds': 21600
  }
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Description des paramètres de commande

queued-resource-request-id
ID attribué par l'utilisateur pour la requête de ressource en file d'attente.
node-id
ID défini par l'utilisateur du TPU créé en réponse à la requête.
project
Projet Google Cloud dans lequel la ressource en file d'attente est allouée.
zone
Zone dans laquelle vous prévoyez de créer votre Cloud TPU.
accelerator-type
Le type d'accélérateur spécifie la version et la taille de la ressource Cloud TPU que vous souhaitez créer. Pour en savoir plus sur les types d'accélérateurs compatibles avec chaque version de TPU, consultez la section Versions de TPU.
runtime-version
Version du logiciel Cloud TPU.
valid-until-duration
Durée de validité de la requête. Pour en savoir plus sur les formats de durée, consultez la section Date et heure de la rubrique Google Cloud CLI.

Demander une ressource en file d'attente après un délai spécifié

Vous pouvez spécifier un délai après lequel une ressource doit être allouée à l'aide de l'option --valid-after-time.

La commande suivante demande l'allocation d'un TPU v4-4096 avec la version d'exécution tpu-vm-tf-2.16.1-pjrt après le 14 décembre 2022 à 9h.

gcloud

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project-id \
--zone us-central2-b \
--accelerator-type v4-4096 \
--runtime-version tpu-vm-tf-2.16.1-pod-pjrt \
--valid-after-time 2022-12-14T09:00:00Z

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-4096',
      'runtime_version': 'tpu-vm-tf-2.16.1-pod-pjrt',
    }
  }
},
'queueing_policy': {
  'valid_after_time': {
    'seconds': 2022-12-14T09:00:00Z
  }
}
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Description des paramètres de commande

queued-resource-request-id
ID attribué par l'utilisateur pour la requête de ressource en file d'attente.
node-id
ID défini par l'utilisateur du TPU créé en réponse à la requête.
project
Projet Google Cloud dans lequel la ressource en file d'attente est allouée.
zone
Zone dans laquelle vous prévoyez de créer votre Cloud TPU.
accelerator-type
Le type d'accélérateur spécifie la version et la taille de la ressource Cloud TPU que vous souhaitez créer. Pour en savoir plus sur les types d'accélérateurs compatibles avec chaque version de TPU, consultez la section Versions de TPU.
runtime-version
Version du logiciel Cloud TPU.
valid-after-time
Délai au terme duquel la ressource doit être allouée. Pour en savoir plus sur les formats de durée, consultez la section Date et heure de la rubrique Google Cloud CLI.

Demander une ressource en file d'attente avant une heure spécifiée

Vous pouvez spécifier un délai avant l'allocation de la ressource à l'aide de l'option --valid-until-time.

La commande suivante demande qu'un nœud TPU v4-4096 avec la version d'exécution tpu-vm-tf-2.10.0-pod soit créé au plus tard le 14 décembre 2022 à 9h.

gcloud

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project-id \
--zone us-central2-b \
--accelerator-type v4-4096 \
--runtime-version tpu-vm-tf-2.16.1-pod-pjrt \
--valid-until-time 2022-12-14T09:00:00Z

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-4096',
      'runtime_version': 'tpu-vm-tf-2.16.1-pod-pjrt',
    }
  }
},
'queueing_policy': {
  'valid_until_time': {
    'seconds': 1655197200
  }
}
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Description des paramètres de commande

queued-resource-request-id
ID attribué par l'utilisateur pour la requête de ressource en file d'attente.
node-id
ID défini par l'utilisateur du TPU créé en réponse à la requête.
project
ID du projet dans lequel la ressource en file d'attente est allouée.
zone
Zone dans laquelle vous prévoyez de créer votre Cloud TPU.
accelerator-type
Le type d'accélérateur spécifie la version et la taille de la ressource Cloud TPU que vous souhaitez créer. Pour en savoir plus sur les types d'accélérateurs compatibles avec chaque version de TPU, consultez la section Versions de TPU.
runtime-version
Version du logiciel Cloud TPU.
valid-until-time
Délai au terme duquel la demande est annulée. Pour en savoir plus sur les formats de durée, consultez la section Date et heure de la rubrique Google Cloud CLI.

Demander l'allocation d'une ressource en file d'attente pendant un intervalle spécifié

Vous pouvez spécifier un intervalle d'allocation à l'aide de n'importe quelle paire d'options --valid-after-time, --valid-after-duration, --valid-until-duration et --valid-until-time, à condition que l'une indique le début de l'intervalle d'allocation et l'autre la fin.

La commande suivante demande une version v4-32 dans un délai de 5 heures et 30 minutes à compter de l'heure actuelle, à créer au plus tard le 14 décembre 2022 à 9h.

gcloud

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project-id \
--zone us-central2-b \
--accelerator-type v4-32 \
--runtime-version tpu-vm-tf-2.16.1-pod-pjrt \
--valid-after-duration 5h30m \
--valid-until-time 2022-12-14T09:00:00Z

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-32',
      'runtime_version': 'tpu-vm-tf-2.16.1-pod-pjrt',
    }
  }
},
'queueing_policy': {
  'validInterval': {
    'startTime': '2022-12-10T14:30:00Z',
    'endTime': '2022-12-14T09:00:00Z'
  }
},
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Description des options de commande

queued-resource-request-id
ID attribué par l'utilisateur pour la requête de ressource en file d'attente.
node-id
ID défini par l'utilisateur du TPU créé en réponse à la requête.
project
ID du projet dans lequel la ressource en file d'attente est allouée.
zone
Zone dans laquelle vous prévoyez de créer votre Cloud TPU.
accelerator-type
Le type d'accélérateur spécifie la version et la taille de la ressource Cloud TPU que vous souhaitez créer. Pour en savoir plus sur les types d'accélérateurs compatibles avec chaque version de TPU, consultez la section Versions de TPU.
runtime-version
Version du logiciel Cloud TPU.
valid-until-timw
Délai au terme duquel la demande est annulée. Pour en savoir plus sur les formats de durée, consultez la section Date et heure de la rubrique Google Cloud CLI.
valid-until-duration
Durée de validité de la requête. Pour en savoir plus sur les formats de durée, consultez la section Date et heure de la rubrique Google Cloud CLI.

Demander une ressource en file d'attente à l'aide d'un script de démarrage

Vous pouvez spécifier un script à exécuter sur une ressource en file d'attente après son provisionnement. Lorsque vous utilisez la commande gcloud, vous pouvez utiliser l'option --metadata ou --metadata-from-file pour spécifier une commande de script ou un fichier contenant le code du script, respectivement. Lorsque vous utilisez curl, vous devez inclure le code du script dans le contenu JSON. L'exemple suivant crée une requête de ressource en file d'attente qui exécutera le script contenu dans startup-script.sh. L'exemple curl montre un script intégré dans le corps JSON.

gcloud

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project \
--zone us-central2-b \
--accelerator-type v4-8 \
--runtime-version tpu-vm-tf-2.12.0 \
--reserved \
--metadata-from-file='startup-script=startup-script.sh'

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
tpu: {
    node_spec: {
      parent: 'projects/your-project-number/locations/us-central2-b',
      node_id: 'your-node-id',
      node: {
          accelerator_type: 'v2-8',
          runtime_version: 'tpu-vm-tf-2.16.1-pjrt',
          metadata: {
              "startup-script": "#! /bin/bash\npwd > /tmp/out.txt\nwhoami >> /tmp/out.txt"
          }
      }
    }
},
'queueing_policy': {
  'validInterval': {
    'startTime': '2022-12-10T14:30:00Z',
    'endTime': '2022-12-14T09:00:00Z'
  }
},
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Description des options de commande

queued-resource-request-id
ID attribué par l'utilisateur pour la requête de ressource en file d'attente.
node-id
ID défini par l'utilisateur du TPU créé en réponse à la requête.
project
ID du projet dans lequel la ressource en file d'attente est allouée.
zone
Zone dans laquelle vous prévoyez de créer votre Cloud TPU.
accelerator-type
Le type d'accélérateur spécifie la version et la taille de la ressource Cloud TPU que vous souhaitez créer. Pour en savoir plus sur les types d'accélérateurs compatibles avec chaque version de TPU, consultez la section Versions de TPU.
runtime-version
Version du logiciel Cloud TPU.
validInterval
Délai de validité de la requête après lequel elle est annulée. Pour en savoir plus sur les formats de durée, consultez la section Date et heure de la rubrique Google Cloud CLI.
metadata-from-file
Spécifie un fichier contenant des métadonnées. Si vous ne spécifiez pas de chemin d'accès complet au fichier de métadonnées, la commande suppose qu'il se trouve dans le répertoire actuel. Dans cet exemple, le fichier contient un script de démarrage qui s'exécute lorsque la ressource en file d'attente est provisionnée.
metadata
Spécifie les métadonnées de la requête. Dans cet exemple, les métadonnées correspondent à une commande de script de démarrage exécutée lorsque la ressource en file d'attente est provisionnée.

Demander une ressource en file d'attente avec un réseau et un sous-réseau spécifiés

Vous pouvez demander une ressource en file d'attente en spécifiant le réseau et le sous-réseau auxquels vous souhaitez connecter votre TPU.

gcloud

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project \
--zone us-central2-b \
--accelerator-type v4-8 \
--runtime-version tpu-vm-tf-2.16.1-pjrt \
--network network-name \
--subnetwork subnetwork-name

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-8',
      'runtime_version': 'tpu-vm-tf-2.16.1-pjrt',
       'network_config': {
        'network': 'network-name',
        'subnetwork': 'subnetwork-name',
        'enable_external_ips': true
    }
  }
},
'guaranteed': {
  'reserved': true,
}
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Description des paramètres de commande

queued-resource-id
ID attribué par l'utilisateur pour la requête de ressource en file d'attente.
node-id
ID attribué par l'utilisateur du TPU, qui est créé lorsque la requête de ressource en file d'attente est allouée.
project
Votre projet Google Cloud.
zone
Zone dans laquelle vous prévoyez de créer votre Cloud TPU.
accelerator-type
Le type d'accélérateur spécifie la version et la taille de la ressource Cloud TPU que vous souhaitez créer. Pour en savoir plus sur les types d'accélérateurs compatibles avec chaque version de TPU, consultez la section Versions de TPU.
runtime-version
Version du logiciel Cloud TPU.
reserved
Utilisez cette option lorsque vous demandez des ressources en file d'attente dans le cadre d'une réservation Cloud TPU.
network
Réseau auquel la ressource en file d'attente sera associée.
subnetwork
Sous-réseau dont la ressource en file d'attente sera associée.

Supprimer une requête de ressource en file d'attente

Vous pouvez supprimer une requête de ressource en file d'attente et la VM TPU créée par la requête en transmettant l'option --force à la commande queued-resource delete. Sinon, vous devez supprimer la VM TPU avant de supprimer la requête de ressource en file d'attente. Lorsque vous supprimez la VM TPU, la requête de ressource en file d'attente passe à l'état SUSPENDED, après quoi la requête de ressource en file d'attente peut être supprimée.

Les commandes suivantes suppriment la requête de ressource en file d'attente nommée "my-queued-resource" dans le projet "my-project" de la zone "us-central2-b". L'option --force permet de supprimer à la fois la VM TPU et la demande de ressources en file d'attente.

gcloud

gcloud compute tpus queued-resources delete my-queued-resource \
--project my-project \
--zone us-central2-b \
--force \
--async

curl

curl -X DELETE -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://tpu.googleapis.com/v2/projects/my-project/locations/us-central2-b/queuedResources/my-queued-resource?force=true

Description des options de commande

queued-resource-request-id
ID attribué par l'utilisateur pour la requête de ressource en file d'attente.
project
Projet Google Cloud dans lequel la ressource en file d'attente est allouée.
zone
Zone du Cloud TPU à supprimer.
force
Supprimez la VM TPU et la requête de ressource en file d'attente.

Les commandes suivantes suppriment la requête de ressource en file d'attente nommée "my-queued-resource" dans le projet "my-project" de la zone "us-central2-b".

gcloud

gcloud compute tpus queued-resources delete your-queued-resource-id \
--project your-project-id \
--zone us-central2-b

curl

curl -X DELETE -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://tpu.googleapis.com/v2/projects/your-project-id/locations/us-central2-b/queuedResources/your-queued-resource-id

Description des options de commande

queued-resource-request-id
ID attribué par l'utilisateur pour la requête de ressource en file d'attente.
project
Projet Google Cloud dans lequel la ressource en file d'attente est allouée.
zone
Zone dans laquelle vous prévoyez de créer votre Cloud TPU.

Récupérer les informations d'état et de diagnostic d'une requête de ressource en file d'attente

Récupérez l'état et les informations de diagnostic d'une requête de ressource en file d'attente:

gcloud

gcloud compute tpus queued-resources describe queued-resource-request-id \
--project your-project-id \
--zone us-central2-b

curl

curl -X GET -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://tpu.googleapis.com/v2/projects/your-project-id/locations/us-central2-b/queuedResources/your-queued-resource-id

Description des options de commande

queued-resource-request-id
ID attribué par l'utilisateur pour la requête de ressource en file d'attente.
project
ID du projet dans lequel la ressource en file d'attente est allouée.
zone
Zone dans laquelle vous prévoyez de créer votre Cloud TPU.

Si la requête échoue, la réponse contient des informations sur l'erreur. Pour une requête en attente de ressources, le résultat se présente comme suit:

name: projects/your-project-id/locations/us-central2-b/queuedResources/your-queued-resource-id
state:
  state: WAITING_FOR_RESOURCES
tpu:
  nodeSpec:
  - node:
      acceleratorType: v4-8
      bootDisk: {}
      networkConfig:
        enableExternalIps: true
      queuedResource: projects/your-project-number/locations/us-central2-b/queuedResources/your-queued-resource-id
      runtimeVersion: tpu-vm-tf-2.10.0
      schedulingConfig: {}
      serviceAccount: {}
      shieldedInstanceConfig: {}
      useTpuVm: true
    nodeId: your-node-id
    parent: projects/your-project-number/locations/us-central2-b

Répertorier les demandes de ressources en file d'attente dans votre projet

La commande suivante permet de lister les requêtes de ressources en file d'attente dans le projet "your-project-id":

gcloud

gcloud compute tpus queued-resources list --project your-project-id \
--zone us-central2-b

curl

curl -X GET -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://tpu.googleapis.com/v2/projects/your-project-id/locations/us-central2-b/queuedResources

Description des options de commande

project
Projet Google Cloud dans lequel la ressource en file d'attente est allouée.
zone
Zone dans laquelle vous prévoyez de créer votre Cloud TPU.