Demander des VM TPU à démarrage flexible

Les VM TPU à démarrage flexible, optimisées par le planificateur de charges de travail dynamique, offrent un moyen flexible et économique d'accéder aux ressources TPU pour les charges de travail d'IA. Les VM à démarrage flexible vous permettent de provisionner dynamiquement des TPU selon vos besoins, pendant sept jours maximum, sans réservation à long terme ni gestion complexe des quotas. Avec les VM TPU à démarrage flexible, vous envoyez une demande de provisionnement de TPU qui persiste jusqu'à ce que la capacité devienne disponible. Une fois disponibles, les VM TPU s'exécutent pendant la durée que vous avez spécifiée dans votre requête.

Les VM TPU à démarrage flexible conviennent bien aux expérimentations rapides, aux tests à petite échelle, au provisionnement dynamique de TPU pour les charges de travail d'inférence, au réglage précis des modèles et aux exécutions de charges de travail qui durent moins de sept jours. Pour en savoir plus sur les autres options de consommation de TPU, consultez Options de consommation de Cloud TPU.

Vous pouvez supprimer vos ressources TPU à tout moment pour arrêter la facturation. Pour en savoir plus sur la tarification des TPU, consultez Tarifs de Cloud TPU.

Limites

Les VM TPU Flex-start présentent les limites suivantes :

  • Vous pouvez demander des VM TPU à démarrage flexible pour une durée maximale de sept jours.
  • Vous pouvez demander les versions et les zones Cloud TPU suivantes :
  • Vous devez utiliser l'API des ressources mises en file d'attente pour utiliser les VM TPU à démarrage flexible.

Avant de commencer

Avant de demander des VM TPU Flex-start, vous devez :

  • Installer Google Cloud CLI
  • Créer un projet Google Cloud
  • Activer l'API Cloud TPU

Pour en savoir plus, consultez Configurer l'environnement Cloud TPU.

Vous devez également vous assurer de disposer d'un quota de VM préemptives suffisant pour utiliser les VM TPU à démarrage flexible. Si vous avez besoin de plus de cœurs TPU que la quantité accordée par le quota par défaut, vous devez demander une allocation de quota plus élevée. Pour en savoir plus sur les valeurs par défaut et sur la demande de quota supplémentaire, consultez Quotas Cloud TPU.

Demander des VM TPU à démarrage flexible

Les VM TPU à démarrage flexible utilisent l'API de ressources en file d'attente pour demander des ressources TPU en file d'attente. Lorsque la ressource demandée devient disponible, elle est attribuée à votre projet Google Cloud pour votre usage immédiat et exclusif. Une fois la durée d'exécution demandée écoulée, les VM TPU sont supprimées et la ressource mise en file d'attente passe à l'état SUSPENDED. Pour en savoir plus sur les ressources mises en file d'attente, consultez Gérer les ressources mises en file d'attente.

Pour demander des VM TPU à démarrage flexible, utilisez la commande gcloud alpha compute tpus queued-resources create avec l'option --provisioning-model définie sur flex-start et l'option --max-run-duration définie sur la durée pendant laquelle vous souhaitez que vos TPU s'exécutent.

gcloud alpha compute tpus queued-resources create QUEUED_RESOURCE_ID \
    --zone=ZONE \
    --accelerator-type=ACCELERATOR_TYPE \
    --runtime-version=RUNTIME_VERSION \
    --node-id=NODE_ID \
    --provisioning-model=flex-start \
    --max-run-duration=RUN_DURATION

Remplacez les espaces réservés suivants :

  • QUEUED_RESOURCE_ID : ID attribué par l'utilisateur pour la demande de ressource mise en file d'attente.
  • ZONE : zone dans laquelle créer la VM TPU.
  • ACCELERATOR_TYPE : spécifie la version et la taille du Cloud TPU à créer. Pour en savoir plus sur les types d'accélérateurs compatibles avec chaque version de TPU, consultez Versions de TPU.
  • RUNTIME_VERSION : version du logiciel Cloud TPU.
  • NODE_ID : ID attribué par l'utilisateur à la TPU, créé lorsque la requête de ressource mise en file d'attente est allouée.
  • RUN_DURATION : durée d'exécution des TPU. Formatez la durée en nombre de jours, d'heures, de minutes et de secondes, suivis respectivement de d, h, m et s. Par exemple, spécifiez 72h pour une durée de 72 heures ou 1d2h3m4s pour une durée d'un jour, deux heures, trois minutes et quatre secondes. La valeur maximale est de sept jours.

Vous pouvez personnaliser davantage votre demande de ressources en file d'attente pour qu'elle s'exécute à des heures spécifiques à l'aide d'indicateurs supplémentaires :

  • --valid-after-duration : durée avant laquelle le TPU ne doit pas être provisionné.
  • --valid-after-time : heure avant laquelle le TPU ne doit pas être provisionné.
  • --valid-until-duration : durée de validité de la demande. Si la demande n'a pas été traitée dans ce délai, elle expire et passe à l'état FAILED.
  • --valid-until-time : durée de validité de la demande. Si la demande n'a pas été traitée d'ici là, elle expire et passe à l'état FAILED.

Pour en savoir plus sur les options facultatives, consultez la documentation sur gcloud alpha compute tpus queued-resources create.

Obtenir l'état d'une demande de VM TPU Flex-start

Pour surveiller l'état de votre demande de VM TPU Flex-start, utilisez l'API de ressources en file d'attente pour obtenir l'état de la demande de ressources en file d'attente à l'aide de la commande gcloud alpha compute tpus queued-resources describe :

gcloud alpha compute tpus queued-resources describe QUEUED_RESOURCE_ID \
    --zone ZONE

Une ressource mise en file d'attente peut avoir l'un des états suivants :

  • WAITING_FOR_RESOURCES : la demande a passé la validation initiale et a été ajoutée à la file d'attente.
  • PROVISIONING : la requête a été sélectionnée dans la file d'attente et les VM TPU sont en cours de création.
  • ACTIVE : la requête a été traitée et les VM TPU sont prêtes.
  • FAILED : la demande n'a pas pu être traitée. Pour en savoir plus, utilisez la commande describe.
  • SUSPENDING : les ressources associées à la demande sont en cours de suppression.
  • SUSPENDED : les ressources associées à la requête ont été supprimées.

Pour en savoir plus, consultez Récupérer des informations sur l'état et le diagnostic d'une demande de ressource mise en file d'attente.

Surveiller la durée d'exécution des VM TPU Flex-start

Vous pouvez surveiller la durée d'exécution des VM TPU à démarrage flexible en vérifiant l'horodatage de fin du TPU :

  1. Obtenez les détails de votre demande de ressources en file d'attente.

  2. Choisissez l'une des options suivantes selon que vos TPU ont été créés ou non :

    • Si la ressource en file d'attente attend des ressources : dans le résultat, consultez le champ maxRunDuration. Ce champ indique la durée d'exécution des TPU une fois qu'ils sont créés.

    • Si les TPU associés à la ressource en file d'attente ont été créés : Dans le résultat, consultez le champ terminationTimestamp listé pour chaque nœud de la ressource en file d'attente. Ce champ indique quand le TPU sera arrêté.

Supprimer une ressource en file d'attente

Vous pouvez supprimer une demande de ressource en file d'attente et les TPU associés à la demande en supprimant la demande de ressource en file d'attente et en transmettant l'indicateur --force à la commande queued-resources delete :

gcloud alpha compute tpus queued-resources delete QUEUED_RESOURCE_ID \
    --force

Si vous supprimez le TPU directement à l'aide de la commande gcloud compute tpus tpu-vm delete, vous devez également supprimer la ressource mise en file d'attente, comme indiqué dans l'exemple suivant. Lorsque vous supprimez le TPU, la demande de ressource en file d'attente passe à l'état SUSPENDED, après quoi vous pouvez la supprimer.

Pour supprimer une TPU, utilisez la commande gcloud compute tpus tpu-vm delete :

gcloud compute tpus tpu-vm delete NODE_ID \
    --zone ZONE

Ensuite, pour supprimer la ressource mise en file d'attente, utilisez la commande gcloud alpha compute tpus queued-resources delete :

gcloud alpha compute tpus queued-resources delete QUEUED_RESOURCE_ID \
    --zone ZONE

Pour en savoir plus, consultez Supprimer une demande de ressource mise en file d'attente.