Como treinar o ResNet no Cloud TPU (TF 2.x)

Veja neste tutorial como treinar um modelo Keras ResNet na Cloud TPU usando tf.distribute.TPUStrategy.

Se você não conhece muito bem o Cloud TPU, é altamente recomendável consultar o guia de início rápido para saber como criar uma TPU e uma VM do Compute Engine.

Objetivos

Criar um bucket do Cloud Storage para armazenar o conjunto de dados e a saída do modelo.
Preparar um conjunto de dados ImageNet fictício que seja semelhante ao conjunto de dados do ImageNet.
Executar o job de treinamento.
Verificar os resultados da saída.

Custos

Neste tutorial, há componentes faturáveis do Google Cloud, entre eles:

Compute Engine
Cloud TPU
Cloud Storage

Use a calculadora de preços para gerar uma estimativa de custos baseada na projeção de uso. Novos usuários do Google Cloud podem estar qualificados para uma avaliação gratuita.

Antes de começar

Antes de começar o tutorial, verifique se o projeto do Google Cloud foi configurado corretamente.

Faça login na sua conta do Google Cloud. Se você começou a usar o Google Cloud agora, crie uma conta para avaliar o desempenho de nossos produtos em situações reais. Clientes novos também recebem US$ 300 em créditos para executar, testar e implantar cargas de trabalho.

No Console do Google Cloud, na página do seletor de projetos, selecione ou crie um projeto do Google Cloud.

Acessar o seletor de projetos

Verifique se o faturamento está ativado para seu projeto na nuvem. Saiba como confirmar se o faturamento está ativado para o projeto.

No Console do Google Cloud, na página do seletor de projetos, selecione ou crie um projeto do Google Cloud.

Acessar o seletor de projetos

Verifique se o faturamento está ativado para seu projeto na nuvem. Saiba como confirmar se o faturamento está ativado para o projeto.

Este tutorial usa componentes faturáveis do Google Cloud. Consulte a página de preços da Cloud TPU para fazer uma estimativa dos custos. Para evitar cobranças desnecessárias, não se esqueça de apagar os recursos criados ao terminar de usá-los.

Treinamento sobre dispositivos de Cloud TPU único

Nesta seção, você verá informações sobre como configurar recursos de bucket, VM e Cloud TPU para treinamento em dispositivos únicos.

Abra uma janela do Cloud Shell.

Abrir o Cloud Shell
Crie uma variável para o ID do seu projeto.
```
$ export PROJECT_ID=project-id
```
Configure a ferramenta de linha de comando da gcloud para usar o projeto em que a Cloud TPU será criada.
```
$ gcloud config set project ${PROJECT_ID}
```
Na primeira vez que você executar esse comando em uma nova VM do Cloud Shell, será exibida uma página Authorize Cloud Shell. Clique em Authorize na parte inferior da página para permitir que gcloud faça chamadas de API do GCP com suas credenciais.
Crie uma conta de serviço para o projeto da Cloud TPU.

As contas de serviço permitem que o serviço do Cloud TPU acesse outros serviços do Google Cloud Platform.
```
$ gcloud beta services identity create --service tpu.googleapis.com --project $PROJECT_ID
```
O comando retorna uma conta de serviço do Cloud TPU com o formato a seguir:
```
service-PROJECT_NUMBER@cloud-tpu.iam.gserviceaccount.com
```
Crie um bucket do Cloud Storage usando o seguinte comando:
```
$ gsutil mb -p ${PROJECT_ID} -c standard -l europe-west4 gs://bucket-name
```
Esse bucket do Cloud Storage armazena os dados usados para treinar o modelo e os resultados do treinamento. O comando gcloud usado neste tutorial para configurar a TPU também configura permissões padrão para a conta de serviço do Cloud TPU configurada na etapa anterior. Caso queira permissões mais específicas, consulte as permissões de nível de acesso.
Preparar seu conjunto de dados ou usar o fake_imagenet.

O ImageNet é um banco de dados de imagens. As imagens do banco de dados são organizadas hierarquicamente, com cada nó da hierarquia representado por centenas e milhares de imagens.

Neste tutorial, usamos uma versão de demonstração do conjunto de dados completo do ImageNet, conhecido como fake_imagenet. Essa versão de demonstração permite testar os tutoriais e reduzir os requisitos de tempo e armazenamento normalmente associados à execução de um modelo com o conjunto de dados completo do ImageNet.

O conjunto de dados do fake_imagenet está neste local no Cloud Storage:
```
gs://cloud-tpu-test-datasets/fake_imagenet
```
O conjunto de dados do fake_imagenet é útil apenas para entender como usar um Cloud TPU e validar o desempenho de ponta a ponta. Os números de acurácia e o modelo salvo não são importantes.

Se você quiser usar o conjunto de dados completo do ImageNet, consulte Como fazer o download, o pré-processamento e o upload do conjunto de dados do ImageNet.

Cuidado: para este tutorial, não defina a variável de ambiente STORAGE_BUCKET para o caminho do conjunto de dados fake_imagenet. Você pode ler a partir do, gs://cloud-tpu-test-datasets mas não fazer gravações nele. Sendo assim, não é possível usá-lo para gravar registros de treinamento. Certifique-se de que a variável de ambiente STORAGE_BUCKET esteja definida como seu próprio bucket do Cloud Storage.
Inicie os recursos de TPU usando o comando gcloud. O comando usado depende do uso de VMs ou nós de TPU. Para ver mais informações sobre a arquitetura de duas VMs, consulte Arquitetura do sistema.
VM de TPU
```
$ gcloud alpha compute tpus tpu-vm create resnet-tutorial \
--zone=europe-west4-a \
--accelerator-type=v3-8 \
--version=tpu-vm-tf-2.6.0
```
Descrições de sinalizações de comando

zone

A zona em que você planeja criar a Cloud TPU.

accelerator-type

O tipo da Cloud TPU a ser criada.

version

A versão do ambiente de execução do Cloud TPU.
Nó da TPU
```
gcloud compute tpus execution-groups create \
--project=${PROJECT_ID} \
--zone=europe-west4-a \
--name=resnet-tutorial \
--disk-size=300 \
--machine-type=n1-standard-16 \
--accelerator-type=v3-8 \
--tf-version=2.6.0
```
Descrições de sinalizações de comando

project

o ID do projeto do GCP

zone

A zona em que você planeja criar a Cloud TPU.

name

O nome da Cloud TPU a ser criada.

disk-size

O tamanho do disco rígido em GB da VM criada pelo comando gcloud .

machine-type

O tipo de máquina da VM do Compute Engine a ser criado.

accelerator-type

O tipo da Cloud TPU a ser criada.

tf-version

A versão do Tensorflow gcloud é instalada na VM.
Para mais informações sobre o comando gcloud, consulte a Referência do gcloud.

Observação: a primeira vez que você executar gcloud compute tpus execution-groups em um projeto, levará cerca de cinco minutos para realizar tarefas de inicialização, como propagação de chave SSH e ativação de API. .
Se você não estiver conectado automaticamente à instância do Compute Engine, faça login executando o seguinte comando ssh. Quando você faz login na VM, o prompt do shell muda de username@projectname para username@vm-name:
VM de TPU
```
$ gcloud alpha compute tpus tpu-vm ssh resnet-tutorial --zone=europe-west4-a
```
Nó da TPU
```
$ gcloud compute ssh resnet-tutorial --zone=europe-west4-a
```
Importante: a partir deste ponto, um prefixo de (vm) $ significa que você precisa executar o comando na instância de VM do Compute Engine.

Ao seguir essas instruções, execute cada comando iniciado por (vm)$ na janela de sessão da VM.

Defina a variável de nome da Cloud TPU.

VM de TPU

(vm)$ export TPU_NAME=local

Nó da TPU

(vm)$ export TPU_NAME=resnet-tutorial

Definir variáveis de bucket do Cloud Storage

Configure as seguintes variáveis de ambiente, substituindo bucket-name pelo nome do bucket do Cloud Storage:
```
(vm)$ export STORAGE_BUCKET=gs://bucket-name
```
```
(vm)$ export MODEL_DIR=${STORAGE_BUCKET}/resnet-2x
(vm)$ export DATA_DIR=gs://cloud-tpu-test-datasets/fake_imagenet
```
O aplicativo de treinamento precisa que os dados de treinamento sejam acessíveis no Cloud Storage. O aplicativo de treinamento também usa o bucket do Cloud Storage para armazenar checkpoints durante o treinamento.

Instale os requisitos do TensorFlow.

O comando usado depende do uso de VMs ou nós de TPU.

VM de TPU

(vm)$ pip3 install -r /usr/share/tpu/models/official/requirements.txt

Nó da TPU

(vm)$ pip3 install --user -r /usr/share/models/official/requirements.txt

O script de treinamento do ResNet requer um pacote extra. Instalar agora.
```
(vm)$ pip3 install --user tensorflow-model-optimization>=0.1.3
```

Defina a variável de ambiente PYTHONPATH:

VM de TPU

(vm)$ export PYTHONPATH="/usr/share/tpu/models:${PYTHONPATH}"

Nó da TPU

(vm)$ export PYTHONPATH="${PYTHONPATH}:/usr/share/models"

Mude para o diretório que armazena o modelo:

VM de TPU

(vm)$ cd /usr/share/tpu/models/official/vision/image_classification/resnet

Nó da TPU

(vm)$ cd /usr/share/models/official/vision/image_classification/resnet

Execute o script de treinamento. Ele usa um conjunto de dados false_imagenet e treina o ResNet por uma época.

Observação: caso queira monitorar a saída e o desempenho do modelo, siga o guia para configurar o TensorBoard.
```
(vm)$ python3 resnet_ctl_imagenet_main.py \
 --tpu=${TPU_NAME} \
 --model_dir=${MODEL_DIR} \
 --data_dir=${DATA_DIR} \
 --batch_size=1024 \
 --steps_per_loop=500 \
 --train_epochs=1 \
 --use_synthetic_data=false \
 --dtype=fp32 \
 --enable_eager=true \
 --enable_tensorboard=true \
 --distribution_strategy=tpu \
 --log_steps=50 \
 --single_l2_loss_op=true \
 --use_tf_function=true
```
Descrições de sinalizações de comando

tpu

O nome da TPU.

model_dir

Especifica o diretório em que os pontos de controle e os resumos são armazenados durante o treinamento de modelo. Se a pasta não existir, ela será criada pelo programa. Ao usar uma Cloud TPU, o model_dir precisa ser um caminho do Cloud Storage (gs://...). É possível reutilizar uma pasta existente para carregar dados do ponto de controle atual e armazenar outros pontos, contanto que os anteriores tenham sido criados usando a TPU com o mesmo tamanho e versão do TensorFlow.

data_dir

O caminho do Cloud Storage da entrada de treinamento. Neste exemplo, ele está definido como o conjunto de dados fake_imagenet.

batch_size

O tamanho do lote de treinamento.

steps_per_loop

O número de etapas de treinamento a serem executadas antes de salvar o estado na CPU. Uma etapa de treinamento é o processamento de um lote de exemplos. Isso inclui o encaminhamento e a retropropagação.

train_epochs

O número de vezes que o modelo deve ser treinado usando o conjunto de dados inteiro.

use_synthetic_data

Define se é necessário usar dados sintéticos para treinamento.

dtype

O tipo de dado a ser usado para treinamento.

enable_eager

Ative a execução rápida do TensorFlow.

enable_tensorboard

Ative o TensorBoard.

distribution_strategy

Para treinar o modelo ResNet em uma TPU, defina distribution_strategy como tpu.

log_steps

O número de etapas de treinamento a serem executadas antes de registrar informações de tempo como examples per second.

single_l2_loss_op

Calcule L2_loss em pesos concatenados em vez de usar a perda de L2 por camada Keras.

use_tf_function

Encapsule o treino e teste as etapas dentro de um tf.function.

Isso treinará o ResNet por um período e será concluído em um nó de TPU v3-8 em aproximadamente 10 minutos. No final do treinamento, será exibida uma saída semelhante a esta:

I1107 20:28:57.561836 140033625347520 resnet_ctl_imagenet_main.py:222] Training 1 epochs, each epoch has 1251 steps, total steps: 1251; Eval 48 steps
I1107 20:34:09.638025 140033625347520 resnet_ctl_imagenet_main.py:358] Training loss: 0.6292637, accuracy: 0.99680257 at epoch 1
I1107 20:34:21.682796 140033625347520 resnet_ctl_imagenet_main.py:372] Test loss: 3.8977659, accuracy: 0.0% at epoch: 1
I1107 20:34:22.028973 140033625347520 resnet_ctl_imagenet_main.py:392]
Run stats:
{'train_loss': 0.6292637, 'train_acc': 0.99680257, 'eval_acc': 0.0, 'step_timestamp_log':
['BatchTimestamp <batch_index: 1, timestamp: 1573158554.11>'],
'train_finish_time': 1573158861.683073, 'eval_loss': 3.8977659>}

Você concluiu o exemplo de treinamento de dispositivo único. Siga as etapas abaixo para excluir os recursos atuais da TPU de dispositivo único.

Desconecte-se da instância do Compute Engine:
```
(vm)$ exit
```
Agora, o prompt precisa ser username@projectname, mostrando que você está no Cloud Shell.
Exclua o recurso da TPU.
VM de TPU
```
$ gcloud alpha compute tpus tpu-vm delete resnet-tutorial \
--zone=europe-west4-a
```
Descrições de sinalizações de comando

zone

A zona em que a Cloud TPU residiu.
Nó da TPU
```
$ gcloud compute tpus execution-groups delete resnet-tutorial \
--zone=europe-west4-a
```
Descrições de sinalizações de comando

zone

A zona que contém a TPU a ser excluída.

Neste ponto, é possível concluir este tutorial e limpar ou continuar executando o modelo nos pods da Cloud TPU.

Como escalonar o modelo com os pods da Cloud TPU

Treinamento do Pod da TPU

Nesta seção, você verá informações sobre como configurar um bucket do Cloud Storage e recursos do Cloud TPU para treinamento de pod.

Abra uma janela do Cloud Shell.

Abrir o Cloud Shell
Crie uma variável para o ID do seu projeto.
```
export PROJECT_ID=project-id
```
Configure a ferramenta de linha de comando gcloud para usar o projeto em que a Cloud TPU será criada.
```
gcloud config set project ${PROJECT_ID}
```
Na primeira vez que você executar esse comando em uma nova VM do Cloud Shell, será exibida uma página Authorize Cloud Shell. Clique em Authorize na parte inferior da página para permitir que gcloud faça chamadas de API do GCP com suas credenciais.

Crie uma conta de serviço para o projeto da Cloud TPU.

gcloud beta services identity create --service tpu.googleapis.com --project $PROJECT_ID

O comando retorna uma conta de serviço do Cloud TPU com o formato a seguir:

service-PROJECT_NUMBER@cloud-tpu.iam.gserviceaccount.com

Crie um bucket do Cloud Storage usando o comando a seguir ou use um bucket criado anteriormente para o projeto:
```
gsutil mb -p ${PROJECT_ID} -c standard -l europe-west4 gs://bucket-name
```
Esse bucket do Cloud Storage armazena os dados usados para treinar o modelo e os resultados do treinamento. O comando gcloud usado neste tutorial configura permissões padrão para a conta de serviço do Cloud TPU configurada na etapa anterior. Caso queira permissões mais específicas, consulte as permissões de nível de acesso.

O local do bucket precisa estar na mesma região que a VM da TPU.
Preparar seu conjunto de dados ou usar o fake_imagenet.

O ImageNet é um banco de dados de imagens. As imagens do banco de dados são organizadas hierarquicamente, com cada nó da hierarquia representado por centenas e milhares de imagens.

O treinamento do pod padrão acessa uma versão de demonstração do conjunto de dados completo do ImageNet, conhecido como fake_imagenet. Essa versão de demonstração permite testar o treinamento do pod e, ao mesmo tempo, reduzir os requisitos de armazenamento e tempo normalmente associados ao treinamento de um modelo em relação ao banco de dados completo do ImageNet.

O conjunto de dados do fake_imagenet é útil apenas para entender como usar um Cloud TPU e validar o desempenho de ponta a ponta. Os números de acurácia e o modelo salvo não são importantes.

Se você quiser usar o conjunto de dados completo do ImageNet, consulte Como fazer o download, o pré-processamento e o upload do conjunto de dados do ImageNet.

Cuidado: não defina a variável de ambiente STORAGE_BUCKET para o caminho do conjunto de dados fake_imagenet. Você pode ler a partir do, gs://cloud-tpu-test-datasets mas não fazer gravações nele. Sendo assim, não é possível usá-lo para gravar registros de treinamento. Certifique-se de que a variável de ambiente STORAGE_BUCKET esteja definida como seu próprio bucket do Cloud Storage.
Inicie os recursos da Cloud TPU usando o comando gcloud.

O comando usado depende de uma VM de TPU ou de um nó de TPU. Para ver mais informações sobre a arquitetura de duas VMs, consulte Arquitetura do sistema. Para mais informações sobre o comando gcloud, consulte a Referência do gcloud. Neste tutorial, é especificado um pod v3-32. Para outras opções de pod, consulte a página de tipos de TPU disponíveis.
VM de TPU
```
$ gcloud alpha compute tpus tpu-vm create resnet-tutorial \
--zone=europe-west4-a \
--accelerator-type=v3-32 \
--version=tpu-vm-tf-2.6.0-pod
```
Descrições de sinalizações de comando

zone

A zona em que você planeja criar a Cloud TPU.

accelerator-type

O tipo da Cloud TPU a ser criada.

version

A versão do ambiente de execução do Cloud TPU.

Observação: Sua primeira corridagcloud em um projeto, leva cerca de 5 minutos para executar tarefas de inicialização, como propagação de chave SSH e ativação de API.
Nó da TPU
```
$ gcloud compute tpus execution-groups create \
--zone=europe-west4-a \
--name=resnet-tutorial \
--accelerator-type=v3-32 \
--tf-version=2.6.0
```
Descrições de sinalizações de comando

zone

A zona em que você planeja criar a Cloud TPU.

name

O nome da Cloud TPU a ser criada.

accelerator-type

O tipo da Cloud TPU a ser criada.

tf-version

A versão do Tensorflow gcloud é instalada na VM.
Se você não estiver conectado automaticamente à instância do Compute Engine, faça login executando o seguinte comando ssh. Quando você faz login na VM, o prompt do shell muda de username@projectname para username@vm-instance-name:
VM de TPU
```
$ gcloud alpha compute tpus tpu-vm ssh resnet-tutorial --zone=europe-west4-a
```
Nó da TPU
```
$ gcloud compute ssh resnet-tutorial --zone=europe-west4-a
```
Importante: a partir deste ponto, um prefixo de (vm) $ significa que você precisa executar o comando na instância de VM do Compute Engine.

Ao seguir essas instruções, execute cada comando iniciado por (vm)$ na janela de sessão da VM.

Exporte as variáveis de configuração do Cloud TPU:

(vm)$ export ZONE=europe-west4-a
(vm)$ export STORAGE_BUCKET=gs://bucket-name

(vm)$ export TPU_NAME=resnet-tutorial
(vm)$ export DATA_DIR=gs://cloud-tpu-test-datasets/fake_imagenet
(vm)$ export MODEL_DIR=${STORAGE_BUCKET}/resnet-2x-pod

O aplicativo de treinamento precisa que os dados de treinamento sejam acessíveis no Cloud Storage. Ele também usa o bucket do Cloud Storage para armazenar checkpoints durante o treinamento.

O script de treinamento do ResNet requer um pacote extra. Instale agora:

VM de TPU

(vm)$ pip3 install --user tensorflow-model-optimization>=0.1.3

Nó da TPU

(vm)$ pip3 install --user tensorflow-model-optimization>=0.1.3

Instale os requisitos do TensorFlow.

O comando usado depende do uso de VMs ou nós de TPU.

VM de TPU

(vm)$ pip3 install -r /usr/share/tpu/models/official/requirements.txt

Nó da TPU

(vm)$ pip3 install --user -r /usr/share/models/official/requirements.txt

Defina a variável de ambiente PYTHONPATH:

VM de TPU

(vm)$ export PYTHONPATH="/usr/share/tpu/models:${PYTHONPATH}"
(vm)$ export TPU_LOAD_LIBRARY=0

Nó da TPU

(vm)$ export PYTHONPATH="${PYTHONPATH}:/usr/share/models"

Mude para o diretório que armazena o modelo:

VM de TPU

(vm)$ cd /usr/share/tpu/models/official/vision/image_classification/resnet

Nó da TPU

(vm)$ cd /usr/share/models/official/vision/image_classification/resnet

Treine o modelo.
```
(vm)$ python3 resnet_ctl_imagenet_main.py \
  --tpu=${TPU_NAME} \
  --model_dir=${MODEL_DIR} \
  --data_dir=${DATA_DIR} \
  --batch_size=4096 \
  --steps_per_loop=500 \
  --train_epochs=1 \
  --use_synthetic_data=false \
  --dtype=fp32 \
  --enable_eager=true \
  --enable_tensorboard=true \
  --distribution_strategy=tpu \
  --log_steps=50 \
  --single_l2_loss_op=true \
  --use_tf_function=true
 
```
Descrições de sinalizações de comando

tpu

O nome da TPU.

model_dir

Especifica o diretório em que os pontos de controle e os resumos são armazenados durante o treinamento do modelo. Se a pasta não existir, ela será criada pelo programa. Ao usar uma Cloud TPU, o model_dir precisa ser um caminho do Cloud Storage (gs://...). É possível reutilizar uma pasta existente para carregar dados dos pontos de controle atuais e armazenar outros pontos, contanto que os anteriores tenham sido criados usando a Cloud TPU com o mesmo tamanho e versão do TensorFlow.

data_dir

O caminho do Cloud Storage da entrada de treinamento. Neste exemplo, ele está definido com o conjunto de dados fake_imagenet.

batch_size

O tamanho do lote de treinamento.

steps_per_loop

O número de etapas de treinamento a serem executadas antes de salvar o estado na CPU. Uma etapa de treinamento é o processamento de um lote de exemplos. Isso inclui um encaminhamento e a retropropagação.

train_epochs

O número de vezes que o modelo deve ser treinado usando o conjunto de dados inteiro.

use_synthetic_data

Define se é necessário usar dados sintéticos para treinamento.

dtype

O tipo de dado a ser usado para treinamento.

enable_eager

Ativa a execução rápida do TensorFlow.

enable_tensorboard

Ativa o TensorBoard.

distribution_strategy

Para treinar o modelo ResNet em uma TPU, defina distribution_strategy como tpu.

log_steps

O número de etapas de treinamento a serem executadas antes de registrar informações de tempo como examples per second.

single_l2_loss_op

Calcule L2_loss em pesos concatenados em vez de usar a perda de L2 por camada Keras.

use_tf_function

Envolva as etapas de trem e teste em uma tf.function.

Este procedimento treina o modelo no conjunto de dados fake_imagenet por uma época (312 etapas de treinamento no total e 12 etapas de avaliação). O treinamento leva aproximadamente dois minutos em uma Cloud TPU v3-32. Quando o treinamento e a avaliação forem concluídos, uma mensagem semelhante a esta será exibida:

1107 22:45:19.821746 140317155378624 resnet_ctl_imagenet_main.py:358] Training loss: 0.22576721, accuracy: 0.838141 at epoch 1
I1107 22:45:33.892045 140317155378624 resnet_ctl_imagenet_main.py:372] Test loss: 0.26673648, accuracy: 0.0% at epoch: 1
I1107 22:45:34.851322 140317155378624 resnet_ctl_imagenet_main.py:392] Run stats:
{'train_loss': 0.22576721, 'train_acc': 0.838141, 'eval_acc': 0.0, 'step_timestamp_log': ['BatchTimestamp<batch_index: 1, timestamp: 1573166574.67>'], 'train_finish_time': 1573166733.892282, 'eval_loss': 0.26673648}

Limpar

Para evitar cobranças na sua conta do Google Cloud pelos recursos usados no tutorial, exclua o projeto que os contém ou mantenha o projeto e exclua os recursos individuais.

Desconecte-se da instância do Compute Engine, caso ainda não tenha feito isso:
```
(vm)$ exit
```
Agora, o prompt precisa ser username@projectname, mostrando que você está no Cloud Shell.
Exclua os recursos do Cloud TPU e do Compute Engine. O comando usado para excluir os recursos depende do uso de VMs ou nós de TPU. Para ver mais informações, consulte Arquitetura do sistema.
VM de TPU
```
$ gcloud alpha compute tpus tpu-vm delete resnet-tutorial \
--zone=europe-west4-a
```
Nó da TPU
```
$ gcloud compute tpus execution-groups delete resnet-tutorial \
--zone=europe-west4-a
```
Execute gcloud compute tpus execution-groups list para verificar se os recursos foram excluídos. A exclusão pode levar vários minutos. A saída do comando a seguir não pode incluir nenhum dos recursos da TPU criados neste tutorial:
VM de TPU
```
$ gcloud alpha compute tpus tpu-vm list --zone=europe-west4-a
```
Nó da TPU
```
$ gcloud compute tpus execution-groups list --zone=europe-west4-a
```
Execute gsutil conforme mostrado. Substitua bucket-name pelo nome do bucket do Cloud Storage criado para este tutorial:
```
$ gsutil rm -r gs://bucket-name
```

A seguir

Neste tutorial, você treinou o modelo RESNET usando um conjunto de dados de amostra. Os resultados deste treinamento (na maioria dos casos) não podem ser usados para inferência. Para usar um modelo para inferência, é possível treinar os dados em um conjunto de dados disponível publicamente ou no seu próprio conjunto de dados. Os modelos treinados nas Cloud TPUs exigem que os conjuntos de dados estejam no formato TFRecord.

Use a amostra da ferramenta de conversão de conjunto de dados para converter um conjunto de dados de classificação de imagem no formato TFRecord. Se você não estiver usando um modelo de classificação de imagem, converta manualmente o conjunto de dados para o TFRecord. Para mais informações, consulte TFRecord e tf.Example (link em inglês).

Ajuste de hiperparâmetros

Para melhorar o desempenho do modelo com o conjunto de dados, é possível ajustar os hiperparâmetros. Encontre informações sobre hiperparâmetros comuns a todos os modelos compatíveis com a TPU no GitHub. As informações sobre hiperparâmetros específicos do modelo podem ser encontradas no código-fonte de cada modelo. Para mais informações sobre o ajuste de hiperparâmetros, consulte Visão geral do ajuste de hiperparâmetros, Como usar o serviço de ajuste de hiperparâmetros e Ajustar hiperparâmetros.

Inferência

Depois de treinar o modelo, é possível usá-lo para inferência (também chamada de previsão). O AI Platform é uma solução baseada em nuvem para desenvolver, treinar e implantar modelos de machine learning. Depois que um modelo é implantado, use o serviço do AI Platform Prediction.

Saiba como treinar e avaliar usando seus dados no lugar dos conjuntos de dados false_imagenet ou ImageNet seguindo o tutorial de conversão do conjunto de dados. O tutorial explica como usar o script de exemplo de conversão de dados de classificação de imagem para converter um conjunto de dados brutos para classificação de imagens em TFRecord utilizáveis por modelos do Cloud TPU Tensorflow.
Execute um colab da Cloud TPU que demonstra como executar um modelo de classificação de imagem usando seus próprios dados de imagem.
Explore os outros tutoriais da Cloud TPU.
Aprenda a usar as ferramentas de monitoramento de TPU no TensorBoard.
Veja como treinar o ResNet com Cloud TPU e GKE.

Como treinar o ResNet no Cloud TPU (TF 2.x)

Objetivos

Custos

Antes de começar

Treinamento sobre dispositivos de Cloud TPU único

VM de TPU

Descrições de sinalizações de comando

Nó da TPU

Descrições de sinalizações de comando

VM de TPU

Nó da TPU

VM de TPU

Nó da TPU

VM de TPU

Nó da TPU

VM de TPU

Nó da TPU

VM de TPU

Nó da TPU

Descrições de sinalizações de comando

VM de TPU

Descrições de sinalizações de comando

Nó da TPU

Descrições de sinalizações de comando

Como escalonar o modelo com os pods da Cloud TPU

Treinamento do Pod da TPU

VM de TPU

Descrições de sinalizações de comando

Nó da TPU

Descrições de sinalizações de comando

VM de TPU

Nó da TPU

VM de TPU

Nó da TPU

VM de TPU

Nó da TPU

VM de TPU

Nó da TPU

VM de TPU

Nó da TPU

Descrições de sinalizações de comando

Limpar

VM de TPU

Nó da TPU

VM de TPU

Nó da TPU

A seguir

Ajuste de hiperparâmetros

Inferência