Guida dell'utente alle risorse in coda

Le risorse in coda consentono di richiedere le risorse Cloud TPU in coda. Quando richiedi risorse in coda, questa viene aggiunta a una coda gestita da il servizio Cloud TPU. Quando la risorsa richiesta diventa disponibile, assegnate al tuo progetto Google Cloud per uso immediato ed esclusivo. Rimarrà assegnati al tuo progetto, a meno che non lo elimini o non venga prerilasciato. Solo Le VM spot TPU e le TPU prerilasciabili sono idonee per il prerilascio.

Puoi specificare un'opzione ora di inizio e ora di fine in coda una richiesta di risorse. L'ora di inizio specifica il primo orario in cui compilare la richiesta. Se una richiesta non è stata soddisfatta entro l'ora di fine specificata, il parametro alla scadenza della tua richiesta. La richiesta rimane in coda dopo che è scaduta.

Le richieste di risorse in coda possono avere uno dei seguenti stati:

WAITING_FOR_RESOURCES
La richiesta ha superato la convalida iniziale ed è stata aggiunta alla coda. Rimane in questo stato finché non ci sono sufficienti risorse gratuite per iniziare il provisioning della tua richiesta o l'intervallo di allocazione trascorrano. Quando la domanda è elevata, non tutte le richieste possono essere inviate immediatamente di cui è stato eseguito il provisioning. Se hai bisogno di ottenere le TPU in modo più affidabile, valuta l'acquisto di una prenotazione.
PROVISIONING
La richiesta è stata selezionata dalla coda e le risorse sono attualmente in fase di allocazione.
ACTIVE
La richiesta è stata assegnata. Quando le richieste di risorse in coda si trovano ACTIVE, puoi gestire le VM TPU come descritto in Gestisci le TPU.
FAILED
Impossibile completare la richiesta a causa di un problema con il metodo o le risorse richieste non erano disponibili nell'intervallo di allocazione. La richiesta rimane in coda fino a quando non viene eliminata in modo esplicito.
SUSPENDING
Le risorse associate alla richiesta sono attualmente in fase di eliminazione.
SUSPENDED
Le risorse specificate nella richiesta sono state eliminate. Quando viene inviata una richiesta è nello stato SUSPENDED, non è più idoneo per ulteriori l'allocazione delle risorse.

Prerequisiti

Prima di eseguire i comandi di questa guida, assicurati di:

Richiedi una risorsa in coda on demand

Puoi richiedere una risorsa in coda on demand utilizzando il comando gcloud compute tpus queued-resources create. Per ulteriori informazioni di risorse on demand, consulta Tipi di quota.

gcloud 

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project \
--zone us-central2-b \
--accelerator-type v4-8 \
--runtime-version tpu-vm-tf-2.16.1-pjrt

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-8',
      'runtime_version': 'tpu-vm-tf-2.16.1-pjrt',
    }
  }
}
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Descrizioni dei parametri del comando

queued-resource-id
L'ID assegnato dall'utente della richiesta di risorse in coda.
node-id
L'ID assegnato dall'utente della TPU che viene creata durante la coda una richiesta di risorse.
project
Il tuo progetto Google Cloud.
zone
La zona in cui prevedi di creare la Cloud TPU.
accelerator-type
Il tipo di acceleratore specifica la versione e le dimensioni della Cloud TPU che vuoi creare. Per ulteriori informazioni sui tipi di acceleratori supportati per ogni versione di TPU, vedi Versioni TPU.
runtime-version
La versione del software di Cloud TPU.

Dimensioni delle sezioni predefinite per le risorse in coda on demand

Quando utilizzi la quota on demand, devi richiedere una dimensione della sezione inferiore a limite predefinito per il tipo di acceleratore in uso. Richieste che superano le i limiti predefiniti vengono rifiutati dal sistema.

La tabella seguente mostra i tipi di TPU e i relativi tipi limiti predefiniti.

Tipo di acceleratore Limite predefinito (in numero di TensorCore)
v2 128
v3 128
v4 384
v5 32

Se hai bisogno di sezioni di dimensioni più grandi, contatta Cloud TPU assistenza per ulteriori informazioni.

Richiedi una risorsa in coda utilizzando una prenotazione

Puoi richiedere una risorsa in coda utilizzando una prenotazione specificando --reserved nel comando gcloud o guaranteed.reserved=true nel curl. Per acquistare una prenotazione, rivolgiti al team dedicato al tuo account Google Cloud.

gcloud 

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project \
--zone us-central2-b \
--accelerator-type v4-8 \
--runtime-version tpu-vm-tf-2.16.1-pjrt \
--reserved

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-8',
      'runtime_version': 'tpu-vm-tf-2.16.1-pjrt',
    }
  }
},
'guaranteed': {
  'reserved': true,
}
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Descrizioni dei parametri del comando

queued-resource-id
L'ID assegnato dall'utente della richiesta di risorse in coda.
node-id
L'ID assegnato dall'utente della TPU che viene creata durante la coda una richiesta di risorse.
project
Il tuo progetto Google Cloud.
zone
La zona in cui prevedi di creare la Cloud TPU.
accelerator-type
Il tipo di acceleratore specifica la versione e le dimensioni della Cloud TPU che vuoi creare. Per ulteriori informazioni sui tipi di acceleratori supportati per ogni versione di TPU, vedi Versioni TPU.
runtime-version
La versione del software di Cloud TPU.
reserved
Utilizza questo flag quando richiedi risorse in coda come parte di una Cloud TPU prenotazione.

Richiedi una risorsa in coda per VM spot TPU

Una VM spot è una risorsa che può essere prerilasciata e assegnato a un altro carico di lavoro in qualsiasi momento. Risorse VM spot costano meno e potresti avere accesso alle risorse prima rispetto a un una richiesta VM non spot. Per ulteriori informazioni sulle TPU VM spot, consulta Gestire le VM spot TPU.

gcloud 

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project-id \
--zone us-central2-b \
--accelerator-type v4-8 \
--runtime-version tpu-vm-tf-2.16.1-pjrt \
--spot

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-8',
      'runtime_version': 'tpu-vm-tf-2.16.1-pjrt'
    }
  }
},
'spot': {}
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Descrizioni dei parametri del comando

queued-resource-request-id
L'ID assegnato dall'utente della richiesta di risorse in coda.
node-id
L'ID definito dall'utente della TPU creata in risposta alla richiesta.
project
L'ID del progetto in cui è allocata la risorsa in coda.
zone
La zona in cui prevedi di creare la Cloud TPU.
accelerator-type
Il tipo di acceleratore specifica la versione e le dimensioni della Cloud TPU che vuoi creare. Per ulteriori informazioni sui tipi di acceleratori supportati per ogni versione di TPU, vedi Versioni TPU.
runtime-version
La versione del software di Cloud TPU.
spot
Un flag booleano che specifica che la risorsa in coda è una VM spot.

Richiedi l'allocazione di una risorsa in coda prima o dopo un intervallo di tempo specificato

Puoi specificare un'ora di inizio, una fine ora, inizio durata o fine max in una richiesta di risorse in coda. La "start time" (Ora di inizio) o "Start time" (Durata di inizio) specifica il primo orario in cui compilare richiesta. Se una richiesta non è stata soddisfatta entro l'ora di fine specificata o entro per la durata specificata, la richiesta scade. Una volta scaduta, la richiesta rimane in coda ma non è più idoneo per l'allocazione.

Puoi anche specificare un intervallo di allocazione tramite specificando un'ora di inizio o una durata e un'ora di fine o una durata.

Consulta Datetime per un dei formati di timestamp e durata supportati.

Richiedi una risorsa in coda dopo una durata specificata

Puoi specificare un periodo di tempo dopo la quale deve essere allocata una risorsa utilizzando il flag --valid-after-duration. L'esempio seguente richiede una versione v4-32 di vengono assegnate automaticamente dopo sei ore.

gcloud 

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project-id \
--zone us-central2-b \
--accelerator-type v4-32 \
--runtime-version tpu-vm-tf-2.16.1-pod-pjrt \
--valid-after-duration 6h

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-32',
      'runtime_version': 'tpu-vm-tf-2.16.1-pod-pjrt',
    }
  }
},
'queueing_policy': {
  'valid_after_duration': {
    'seconds': 21600
  }
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Descrizioni dei parametri del comando

queued-resource-request-id
L'ID assegnato dall'utente della richiesta di risorse in coda.
node-id
L'ID definito dall'utente della TPU creata in risposta alla richiesta.
project
Il progetto Google Cloud in cui è allocata la risorsa in coda.
zone
La zona in cui prevedi di creare la Cloud TPU.
accelerator-type
Il tipo di acceleratore specifica la versione e le dimensioni della Cloud TPU che vuoi creare. Per ulteriori informazioni sui tipi di acceleratori supportati per ogni versione di TPU, vedi Versioni TPU.
runtime-version
La versione del software di Cloud TPU.
valid-after-duration
L'intervallo di tempo prima della quale non deve essere eseguito il provisioning della TPU. Per maggiori informazioni sui formati di durata, consulta la pagina Data/ora dell'argomento Google Cloud CLI

Richiedi una risorsa in coda che scada dopo una durata specificata

Puoi specificare per quanto tempo una richiesta di risorse in coda rimane valida utilizzando il flag --valid-until-duration. L'esempio seguente richiede una versione v4-32 che scade se non viene compilato entro sei ore.

gcloud 

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project-id \
--zone us-central2-b \
--accelerator-type v4-32 \
--runtime-version tpu-vm-tf-2.16.1-pod-pjrt \
--valid-until-duration 6h

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-32',
      'runtime_version': 'tpu-vm-tf-2.16.1-pod-pjrt',
    }
  }
},
'queueing_policy': {
  'valid_until_duration': {
    'seconds': 21600
  }
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Descrizioni dei parametri del comando

queued-resource-request-id
L'ID assegnato dall'utente della richiesta di risorse in coda.
node-id
L'ID definito dall'utente della TPU creata in risposta alla richiesta.
project
Il progetto Google Cloud in cui è allocata la risorsa in coda.
zone
La zona in cui prevedi di creare la Cloud TPU.
accelerator-type
Il tipo di acceleratore specifica la versione e le dimensioni della Cloud TPU che vuoi creare. Per ulteriori informazioni sui tipi di acceleratori supportati per ogni versione di TPU, vedi Versioni TPU.
runtime-version
La versione del software di Cloud TPU.
valid-until-duration
La durata di validità della richiesta. Per maggiori informazioni sui formati di durata, consulta la pagina Data/ora dell'argomento Google Cloud CLI

Richiedi una risorsa in coda dopo un intervallo di tempo specificato

Puoi specificare un orario dopo il quale deve essere allocata una risorsa utilizzando --valid-after-time flag.

Il comando seguente richiede una TPU v4-4096 con versione del runtime tpu-vm-tf-2.16.1-pjrt da allocare dopo le 09:00 del 14 dicembre 2022.

gcloud 

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project-id \
--zone us-central2-b \
--accelerator-type v4-4096 \
--runtime-version tpu-vm-tf-2.16.1-pod-pjrt \
--valid-after-time 2022-12-14T09:00:00Z

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-4096',
      'runtime_version': 'tpu-vm-tf-2.16.1-pod-pjrt',
    }
  }
},
'queueing_policy': {
  'valid_after_time': {
    'seconds': 2022-12-14T09:00:00Z
  }
}
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Descrizioni dei parametri del comando

queued-resource-request-id
L'ID assegnato dall'utente della richiesta di risorse in coda.
node-id
L'ID definito dall'utente della TPU creata in risposta alla richiesta.
project
Il progetto Google Cloud in cui è allocata la risorsa in coda.
zone
La zona in cui prevedi di creare la Cloud TPU.
accelerator-type
Il tipo di acceleratore specifica la versione e le dimensioni della Cloud TPU che vuoi creare. Per ulteriori informazioni sui tipi di acceleratori supportati per ogni versione di TPU, vedi Versioni TPU.
runtime-version
La versione del software di Cloud TPU.
valid-after-time
L'ora dopo la quale la risorsa deve essere allocata. Per ulteriori informazioni sui formati di durata, consulta la sezione Data/ora dell'argomento Google Cloud CLI.

Richiedi una risorsa in coda prima di un orario specificato

Puoi specificare un'ora entro la quale deve essere allocata la risorsa utilizzando il metodo --valid-until-time flag.

Il comando seguente richiede una TPU v4-4096 con la versione del runtime tpu-vm-tf-2.10.0-pod verrà creata entro le ore 09:00 del 14 dicembre 2022.

gcloud 

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project-id \
--zone us-central2-b \
--accelerator-type v4-4096 \
--runtime-version tpu-vm-tf-2.16.1-pod-pjrt \
--valid-until-time 2022-12-14T09:00:00Z

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-4096',
      'runtime_version': 'tpu-vm-tf-2.16.1-pod-pjrt',
    }
  }
},
'queueing_policy': {
  'valid_until_time': {
    'seconds': 1655197200
  }
}
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Descrizioni dei parametri del comando

queued-resource-request-id
L'ID assegnato dall'utente della richiesta di risorse in coda.
node-id
L'ID definito dall'utente della TPU creata in risposta alla richiesta.
project
L'ID del progetto in cui è allocata la risorsa in coda.
zone
La zona in cui prevedi di creare la Cloud TPU.
accelerator-type
Il tipo di acceleratore specifica la versione e le dimensioni della Cloud TPU che vuoi creare. Per ulteriori informazioni sui tipi di acceleratori supportati per ogni versione di TPU, vedi Versioni TPU.
runtime-version
La versione del software di Cloud TPU.
valid-until-time
L'ora dopo il quale la richiesta viene annullata. Per ulteriori informazioni sui formati di durata, consulta la pagina Data/ora dell'argomento Google Cloud CLI.

Richiedi l'allocazione di una risorsa in coda entro un intervallo specificato

Puoi specificare un intervallo di allocazione utilizzando qualsiasi coppia di valori --valid-after-time, Flag --valid-after-duration, --valid-until-duration e --valid-until-time, fornito un flag specifica l'inizio dell'intervallo di allocazione e "Altro" specifica la fine dell'intervallo di allocazione.

Il seguente comando richiede una versione v4-32 entro 5 ore e 30 minuti dall' attuale, da creare entro e non oltre le ore 09:00 del 14 dicembre 2022.

gcloud 

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project-id \
--zone us-central2-b \
--accelerator-type v4-32 \
--runtime-version tpu-vm-tf-2.16.1-pod-pjrt \
--valid-after-duration 5h30m \
--valid-until-time 2022-12-14T09:00:00Z

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-32',
      'runtime_version': 'tpu-vm-tf-2.16.1-pod-pjrt',
    }
  }
},
'queueing_policy': {
  'validInterval': {
    'startTime': '2022-12-10T14:30:00Z',
    'endTime': '2022-12-14T09:00:00Z'
  }
},
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Descrizioni flag di comando

queued-resource-request-id
L'ID assegnato dall'utente della richiesta di risorse in coda.
node-id
L'ID definito dall'utente della TPU creata in risposta alla richiesta.
project
L'ID del progetto in cui è allocata la risorsa in coda.
zone
La zona in cui prevedi di creare la Cloud TPU.
accelerator-type
Il tipo di acceleratore specifica la versione e le dimensioni della Cloud TPU che vuoi creare. Per ulteriori informazioni sui tipi di acceleratori supportati per ogni versione di TPU, vedi Versioni TPU.
runtime-version
La versione del software di Cloud TPU.
valid-until-timw
L'ora dopo il quale la richiesta viene annullata. Per ulteriori informazioni sui formati di durata, consulta la pagina Data/ora dell'argomento Google Cloud CLI.
valid-until-duration
La durata di validità della richiesta. Per ulteriori informazioni sui formati di durata, consulta la pagina Data/ora dell'argomento Google Cloud CLI.

Richiedere una risorsa in coda con uno script di avvio

Puoi specificare uno script da eseguire su una risorsa in coda dopo di cui è stato eseguito il provisioning. Quando usi il comando gcloud, puoi usare sia --metadata o --metadata-from-file per specificare un comando di script o un file contenente rispettivamente per il codice dello script. Se utilizzi curl, devi includere lo script nei contenuti JSON. L'esempio seguente crea una risorsa in coda che eseguirà lo script contenuto in startup-script.sh. curl un esempio mostra uno script incorporato nel corpo JSON.

gcloud

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project \
--zone us-central2-b \
--accelerator-type v4-8 \
--runtime-version tpu-vm-tf-2.12.0 \
--reserved \
--metadata-from-file='startup-script=startup-script.sh'

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
tpu: {
    node_spec: {
      parent: 'projects/your-project-number/locations/us-central2-b',
      node_id: 'your-node-id',
      node: {
          accelerator_type: 'v2-8',
          runtime_version: 'tpu-vm-tf-2.16.1-pjrt',
          metadata: {
              "startup-script": "#! /bin/bash\npwd > /tmp/out.txt\nwhoami >> /tmp/out.txt"
          }
      }
    }
},
'queueing_policy': {
  'validInterval': {
    'startTime': '2022-12-10T14:30:00Z',
    'endTime': '2022-12-14T09:00:00Z'
  }
},
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Descrizioni flag di comando

queued-resource-request-id
L'ID assegnato dall'utente della richiesta di risorse in coda.
node-id
L'ID definito dall'utente della TPU creata in risposta alla richiesta.
project
L'ID del progetto in cui è allocata la risorsa in coda.
zone
La zona in cui prevedi di creare la Cloud TPU.
accelerator-type
Il tipo di acceleratore specifica la versione e le dimensioni della Cloud TPU che vuoi creare. Per ulteriori informazioni sui tipi di acceleratori supportati per ogni versione di TPU, vedi Versioni TPU.
runtime-version
La versione del software di Cloud TPU.
validInterval
Il periodo di tempo durante il quale la richiesta è valida dopo il quale viene annullato. Per ulteriori informazioni sui formati di durata, consulta Data/ora dell'argomento Google Cloud CLI.
metadata-from-file
Specifica un file che contiene metadati. Se non specifichi un parametro percorso qualificato del file di metadati, il comando presuppone che si trovi nel percorso della directory corrente. In questo esempio, il file contiene uno script di avvio che viene eseguito quando viene eseguito il provisioning della risorsa in coda.
metadata
Specifica i metadati per la richiesta. In questo esempio i metadati sono eseguire un comando di script di avvio quando viene eseguito il provisioning della risorsa in coda.

Richiedi risorse in coda con una rete e una subnet specificate

Puoi richiedere una risorsa in coda specificando la rete e la subnet a cui vuoi connettere la TPU.

gcloud 

gcloud alpha compute tpus queued-resources create your-queued-resource-id \
--node-id your-node-id \
--project your-project \
--zone us-central2-b \
--accelerator-type v4-8 \
--runtime-version tpu-vm-tf-2.16.1-pjrt \
--network network-name \
--subnetwork subnetwork-name

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
'tpu': {
  'node_spec': {
    'parent': 'projects/your-project-number/locations/us-central2-b',
    'node_id': 'your-node-id',
    'node': {
      'accelerator_type': 'v4-8',
      'runtime_version': 'tpu-vm-tf-2.16.1-pjrt',
       'network_config': {
        'network': 'network-name',
        'subnetwork': 'subnetwork-name',
        'enable_external_ips': true
    }
  }
},
'guaranteed': {
  'reserved': true,
}
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central2-b/queuedResources?queued_resource_id=your-queued-resource-id

Descrizioni dei parametri del comando

queued-resource-id
L'ID assegnato dall'utente della richiesta di risorse in coda.
node-id
L'ID assegnato dall'utente della TPU che viene creata durante la coda una richiesta di risorse.
project
Il tuo progetto Google Cloud.
zone
La zona in cui prevedi di creare la Cloud TPU.
accelerator-type
Il tipo di acceleratore specifica la versione e le dimensioni della Cloud TPU che vuoi creare. Per ulteriori informazioni sui tipi di acceleratori supportati per ogni versione di TPU, vedi Versioni TPU.
runtime-version
La versione del software di Cloud TPU.
reserved
Utilizza questo flag quando richiedi risorse in coda come parte di una Cloud TPU prenotazione.
network
Una rete di cui la risorsa in coda farà parte.
subnetwork
Una subnet di cui la risorsa in coda farà parte.

Elimina una richiesta di risorse in coda

Puoi eliminare una richiesta di risorse in coda e la VM TPU creata dalla richiesta passando il flag --force al comando queued-resource delete. Altrimenti, devi eliminare la VM TPU prima di eliminare la richiesta di risorse in coda. Quando elimini la VM TPU, la richiesta di risorse in coda passa Stato SUSPENDED, dopodiché la richiesta di risorse in coda potrebbe essere eliminati.

I comandi seguenti eliminano la richiesta di risorse in coda denominata "my-queued-resource" nel file "mio-progetto" progetto nella zona "us-central2-b". it usa il flag --force per eliminare sia la VM TPU sia la risorsa in coda richiesta.

gcloud

gcloud compute tpus queued-resources delete my-queued-resource \
--project my-project \
--zone us-central2-b \
--force \
--async

curl

curl -X DELETE -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://tpu.googleapis.com/v2/projects/my-project/locations/us-central2-b/queuedResources/my-queued-resource?force=true

Descrizioni flag di comando

queued-resource-request-id
L'ID assegnato dall'utente della richiesta di risorse in coda.
project
Il progetto Google Cloud in cui è allocata la risorsa in coda.
zone
La zona della Cloud TPU da eliminare.
force
Elimina sia la VM TPU sia la richiesta di risorse in coda.

I comandi seguenti eliminano la richiesta di risorse in coda denominata "my-queued-resource" nel file "mio-progetto" progetto nella zona "us-central2-b".

gcloud

gcloud compute tpus queued-resources delete your-queued-resource-id \
--project your-project-id \
--zone us-central2-b

curl

curl -X DELETE -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://tpu.googleapis.com/v2/projects/your-project-id/locations/us-central2-b/queuedResources/your-queued-resource-id

Descrizioni flag di comando

queued-resource-request-id
L'ID assegnato dall'utente della richiesta di risorse in coda.
project
Il progetto Google Cloud in cui è allocata la risorsa in coda.
zone
La zona in cui prevedi di creare la Cloud TPU.

Recuperare informazioni diagnostiche e di stato su una richiesta di risorse in coda

Recupera le informazioni sullo stato e sulla diagnostica di una richiesta di risorse in coda:

gcloud 

gcloud compute tpus queued-resources describe queued-resource-request-id \
--project your-project-id \
--zone us-central2-b

curl

curl -X GET -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://tpu.googleapis.com/v2/projects/your-project-id/locations/us-central2-b/queuedResources/your-queued-resource-id

Descrizioni flag di comando

queued-resource-request-id
L'ID assegnato dall'utente della richiesta di risorse in coda.
project
L'ID del progetto in cui è allocata la risorsa in coda.
zone
La zona in cui prevedi di creare la Cloud TPU.

Se la richiesta non va a buon fine, la risposta conterrà informazioni sull'errore. Per una richiesta in attesa di risorse, l'output sarà simile al seguente:

name: projects/your-project-id/locations/us-central2-b/queuedResources/your-queued-resource-id
state:
  state: WAITING_FOR_RESOURCES
tpu:
  nodeSpec:
  - node:
      acceleratorType: v4-8
      bootDisk: {}
      networkConfig:
        enableExternalIps: true
      queuedResource: projects/your-project-number/locations/us-central2-b/queuedResources/your-queued-resource-id
      runtimeVersion: tpu-vm-tf-2.10.0
      schedulingConfig: {}
      serviceAccount: {}
      shieldedInstanceConfig: {}
      useTpuVm: true
    nodeId: your-node-id
    parent: projects/your-project-number/locations/us-central2-b

Elenca le richieste di risorse in coda nel progetto

Il comando seguente elenca le richieste di risorse in coda nel progetto "your-project-id":

gcloud 

gcloud compute tpus queued-resources list --project your-project-id \
--zone us-central2-b

curl

curl -X GET -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://tpu.googleapis.com/v2/projects/your-project-id/locations/us-central2-b/queuedResources

Descrizioni flag di comando

project
Il progetto Google Cloud in cui è allocata la risorsa in coda.
zone
La zona in cui prevedi di creare la Cloud TPU.