Como treinar o ResNet no Cloud TPU (TF 2.x)

Veja neste tutorial como treinar um modelo Keras ResNet na Cloud TPU usando tf.distribute.TPUStrategy.

Se você não conhece o Cloud TPU, é altamente recomendável acessar o guia de início rápido do seu framework para saber como criar uma TPU e uma VM do Compute Engine.

Objetivos

  • Criar um bucket do Cloud Storage para armazenar o conjunto de dados e a saída do modelo.
  • Preparar um conjunto de dados ImageNet fictício que seja semelhante ao conjunto de dados do ImageNet.
  • Executar o job de treinamento.
  • Verificar os resultados da saída.

Custos

Neste tutorial, usamos os seguintes componentes faturáveis do Google Cloud:

  • Compute Engine
  • Cloud TPU
  • Cloud Storage

Para gerar uma estimativa de custo baseada na projeção de uso deste tutorial, use a calculadora de preços. Novos usuários do Google Cloud podem estar qualificados para uma avaliação gratuita.

Antes de começar

Antes de começar o tutorial, verifique se o projeto do Google Cloud foi configurado corretamente.

  1. Faça login na sua conta do Google Cloud. Se você começou a usar o Google Cloud agora, crie uma conta para avaliar o desempenho de nossos produtos em situações reais. Clientes novos também recebem US$ 300 em créditos para executar, testar e implantar cargas de trabalho.
  2. No console do Google Cloud, na página do seletor de projetos, selecione ou crie um projeto do Google Cloud.

    Acessar o seletor de projetos

  3. Verifique se o faturamento está ativado para seu projeto na nuvem. Saiba como verificar se o faturamento está ativado em um projeto.

  4. No console do Google Cloud, na página do seletor de projetos, selecione ou crie um projeto do Google Cloud.

    Acessar o seletor de projetos

  5. Verifique se o faturamento está ativado para seu projeto na nuvem. Saiba como verificar se o faturamento está ativado em um projeto.

  6. Este tutorial usa componentes faturáveis do Google Cloud. Consulte a página de preços da Cloud TPU para fazer uma estimativa dos custos. Para evitar cobranças desnecessárias, não se esqueça de apagar os recursos criados ao terminar de usá-los.

Treinamento de dispositivo único do Cloud TPU

Nesta seção, você verá informações sobre como configurar recursos de bucket, VM e Cloud TPU do Cloud Storage para treinamento em dispositivos únicos.

  1. Abra uma janela do Cloud Shell.

    Abra o Cloud Shell

  2. Crie uma variável para o ID do seu projeto.

    $ export PROJECT_ID=project-id
    
  3. Configure a CLI do Google Cloud para usar o projeto em que você quer criar a Cloud TPU.

    $ gcloud config set project ${PROJECT_ID}
    

    Na primeira vez que você executar esse comando em uma nova VM do Cloud Shell, será exibida uma página Authorize Cloud Shell. Clique em Authorize na parte inferior da página para permitir que gcloud faça chamadas de API do GCP com suas credenciais.

  4. Crie uma conta de serviço para o projeto da Cloud TPU.

    As contas de serviço permitem que o serviço do Cloud TPU acesse outros serviços do Google Cloud Platform.

    $ gcloud beta services identity create --service tpu.googleapis.com --project $PROJECT_ID
    

    O comando retorna uma conta de serviço do Cloud TPU com o formato a seguir:

    service-PROJECT_NUMBER@cloud-tpu.iam.gserviceaccount.com
    

  5. Crie um bucket do Cloud Storage usando o seguinte comando:

    $ gsutil mb -p ${PROJECT_ID} -c standard -l europe-west4 gs://bucket-name
    

    Esse bucket do Cloud Storage armazena os dados usados para treinar o modelo e os resultados do treinamento. O comando gcloud usado neste tutorial para configurar a TPU também configura permissões padrão para a conta de serviço do Cloud TPU configurada na etapa anterior. Caso queira permissões mais específicas, consulte as permissões de nível de acesso.

  6. Preparar o conjunto de dados ou usar fake_imagenet

    O ImageNet é um banco de dados de imagens. As imagens do banco de dados são organizadas hierarquicamente, com cada nó da hierarquia representado por centenas e milhares de imagens.

    Neste tutorial, usamos uma versão de demonstração do conjunto de dados completo do ImageNet, conhecido como fake_imagenet. Essa versão de demonstração permite testar os tutoriais e reduzir os requisitos de tempo e armazenamento normalmente associados à execução de um modelo com o conjunto de dados completo do ImageNet.

    O conjunto de dados do fake_imagenet está neste local no Cloud Storage:

    gs://cloud-tpu-test-datasets/fake_imagenet

    O conjunto de dados do fake_imagenet é útil apenas para entender como usar um Cloud TPU e validar o desempenho de ponta a ponta. Os números de acurácia e o modelo salvo não são importantes.

    Se você quiser usar o conjunto de dados completo do ImageNet, consulte Como fazer o download, o pré-processamento e o upload do conjunto de dados do ImageNet.

  7. Inicie os recursos de TPU usando o comando gcloud. O comando usado depende se você usa VMs ou nós de TPU. Para mais informações sobre a arquitetura de duas VMs, consulte Arquitetura do sistema.

    VM de TPU

    $ gcloud alpha compute tpus tpu-vm create resnet-tutorial \
    --zone=europe-west4-a \
    --accelerator-type=v3-8 \
    --version=tpu-vm-tf-2.9.1
    

    Descrições de sinalizações de comando

    zone
    A zona em que você planeja criar a Cloud TPU.
    accelerator-type
    O tipo da Cloud TPU a ser criada.
    version
    A versão do software do Cloud TPU.

    Nó da TPU

    gcloud compute tpus execution-groups create \
    --project=${PROJECT_ID} \
    --zone=europe-west4-a \
    --name=resnet-tutorial \
    --disk-size=300 \
    --machine-type=n1-standard-16 \
    --accelerator-type=v3-8 \
    --tf-version=2.8.0

    Descrições de sinalizações de comando

    project
    O ID do projeto no GCP
    zone
    A zona em que você planeja criar a Cloud TPU.
    name
    O nome do Cloud TPU a ser criado.
    disk-size
    O tamanho do disco rígido em GB da VM criada pelo comando gcloud.
    machine-type
    O tipo de máquina da VM do Compute Engine a ser criada.
    accelerator-type
    O tipo da Cloud TPU a ser criada.
    tf-version
    A versão do TensorFlow gcloud é instalada na VM.

    Para mais informações sobre o comando gcloud, consulte a Referência da gcloud.

  8. Se você não for conectado automaticamente à instância do Compute Engine, faça login executando o seguinte comando ssh. Quando você faz login na VM, o prompt do shell muda de username@projectname para username@vm-name:

    VM de TPU

    $ gcloud alpha compute tpus tpu-vm ssh resnet-tutorial --zone=europe-west4-a
    

    Nó de TPU

    $ gcloud compute ssh resnet-tutorial --zone=europe-west4-a
    

    Ao seguir essas instruções, execute cada comando iniciado por (vm)$ na janela de sessão da VM.

  9. Defina a variável de nome da Cloud TPU.

    VM de TPU

    (vm)$ export TPU_NAME=local
    

    Nó de TPU

    (vm)$ export TPU_NAME=resnet-tutorial
    
  10. Definir variáveis de bucket do Cloud Storage

    Configure as seguintes variáveis de ambiente, substituindo bucket-name pelo nome do bucket do Cloud Storage:

    (vm)$ export STORAGE_BUCKET=gs://bucket-name
    
    (vm)$ export MODEL_DIR=${STORAGE_BUCKET}/resnet-2x
    (vm)$ export DATA_DIR=gs://cloud-tpu-test-datasets/fake_imagenet
    
    

    O aplicativo de treinamento precisa que os dados de treinamento sejam acessíveis no Cloud Storage. Ele também usa o bucket do Cloud Storage para armazenar checkpoints durante o treinamento.

  11. Instale os requisitos do TensorFlow.

    O comando usado depende se você usa VMs ou nós de TPU.

    VM de TPU

    (vm)$ pip3 install -r /usr/share/tpu/models/official/requirements.txt 

    Nó de TPU

    (vm)$ pip3 install --user -r /usr/share/models/official/requirements.txt
    
  12. O script de treinamento do ResNet requer um pacote extra. Instalar agora.

    (vm)$ pip3 install --user tensorflow-model-optimization>=0.1.3
    
  13. Mude para o diretório que armazena o modelo:

    VM de TPU

    (vm)$ cd /usr/share/tpu/models
    

    Nó de TPU

    (vm)$ cd /usr/share/models
    
  14. Defina a variável de ambiente PYTHONPATH:

    VM de TPU

    (vm)$ export PYTHONPATH="/usr/share/tpu/models:${PYTHONPATH}"
    

    Nó de TPU

    (vm)$ export PYTHONPATH="${PYTHONPATH}:/usr/share/models"
    
  15. Execute o script de treinamento. Ele usa um conjunto de dados fake_imagenet e treina o ResNet em 100 etapas.

    (vm)$ python3 official/vision/train.py \
    --tpu=${TPU_NAME} \
    --experiment=resnet_imagenet \
    --mode=train_and_eval \
    --config_file=official/vision/configs/experiments/image_classification/imagenet_resnet50_tpu.yaml \
    --model_dir=${MODEL_DIR} \
    --params_override="task.train_data.input_path=${DATA_DIR}/train*, task.validation_data.input_path=${DATA_DIR}/validation*,task.train_data.global_batch_size=2048,task.validation_data.global_batch_size=2048,trainer.train_steps=100"
    

    Descrições de sinalizações de comando

    tpu
    O nome da TPU.
    model_dir
    Especifica o diretório em que os pontos de controle e os resumos são armazenados durante o treinamento de modelo. Se a pasta não existir, ela será criada pelo programa. Ao usar uma Cloud TPU, o model_dir precisa ser um caminho do Cloud Storage (gs://...). É possível reutilizar uma pasta existente para carregar dados do ponto de controle atual e armazenar outros pontos, contanto que os anteriores tenham sido criados usando a TPU com o mesmo tamanho e versão do TensorFlow.

Isso treinará o ResNet por 100 etapas e será concluído em um nó de TPU v3-8 em aproximadamente 3 minutos. No final das 100 etapas, a saída será semelhante a esta:

I0624 17:04:26.974905 140457742666816 controller.py:290]  eval | step:    100 | eval time:   23.3 sec | output:
    {'accuracy': 0.0010141226,
     'top_5_accuracy': 0.0051457332,
     'validation_loss': 8.448798}
 eval | step:    100 | eval time:   23.3 sec | output:
    {'accuracy': 0.0010141226,
     'top_5_accuracy': 0.0051457332,
     'validation_loss': 8.448798}

Você concluiu o exemplo de treinamento de dispositivo único. Siga as etapas abaixo para excluir os recursos atuais da TPU de dispositivo único.

  1. Desconecte-se da instância do Compute Engine:

    (vm)$ exit
    

    Agora, o prompt será username@projectname, mostrando que você está no Cloud Shell.

  2. Exclua o recurso da TPU.

    VM de TPU

    $ gcloud alpha compute tpus tpu-vm delete resnet-tutorial \
    --zone=europe-west4-a
    

    Descrições de sinalizações de comando

    zone
    A zona onde o Cloud TPU residiu.

    Nó de TPU

    $ gcloud compute tpus execution-groups delete resnet-tutorial \
    --zone=europe-west4-a
    

    Descrições de sinalizações de comando

    zone
    A zona que contém a TPU a ser excluída.

Neste ponto, é possível concluir este tutorial e limpar ou continuar executando o modelo nos Pods do Cloud TPU.

Como escalonar o modelo com os pods da Cloud TPU

Treinar seu modelo em pods de { product_name_short }} pode exigir algumas alterações no script de treinamento. Para saber mais, consulte Como treinar em pods da TPU.

Treinamento do Pod de TPU

Nesta seção, você verá informações sobre como configurar um bucket do Cloud Storage e recursos do Cloud TPU para treinamento de Pod.

  1. Abra uma janela do Cloud Shell.

    Abra o Cloud Shell

  2. Crie uma variável para o ID do seu projeto.

    export PROJECT_ID=project-id
    
  3. Configure a CLI do Google Cloud para usar o projeto em que você quer criar a Cloud TPU.

    gcloud config set project ${PROJECT_ID}
    

    Na primeira vez que você executar esse comando em uma nova VM do Cloud Shell, será exibida uma página Authorize Cloud Shell. Clique em Authorize na parte inferior da página para permitir que gcloud faça chamadas de API do GCP com suas credenciais.

  4. Crie uma conta de serviço para o projeto da Cloud TPU.

    gcloud beta services identity create --service tpu.googleapis.com --project $PROJECT_ID
    

    O comando retorna uma conta de serviço do Cloud TPU com o formato a seguir:

    service-PROJECT_NUMBER@cloud-tpu.iam.gserviceaccount.com
    

  5. Crie um bucket do Cloud Storage usando o comando a seguir ou use um bucket criado anteriormente para o projeto:

    gsutil mb -p ${PROJECT_ID} -c standard -l europe-west4 gs://bucket-name
    

    Esse bucket do Cloud Storage armazena os dados usados para treinar o modelo e os resultados do treinamento. O comando gcloud usado neste tutorial configura permissões padrão para a conta de serviço do Cloud TPU configurada na etapa anterior. Caso queira permissões mais específicas, consulte as permissões de nível de acesso.

    O local do bucket precisa estar na mesma região que a VM da TPU.

  6. Preparar o conjunto de dados ou usar fake_imagenet

    O ImageNet é um banco de dados de imagens. As imagens do banco de dados são organizadas hierarquicamente, com cada nó da hierarquia representado por centenas e milhares de imagens.

    O treinamento do Pod padrão acessa uma versão de demonstração do conjunto de dados completo do ImageNet, conhecido como fake_imagenet. Essa versão de demonstração permite testar o treinamento do Pod e, ao mesmo tempo, reduzir os requisitos de armazenamento e tempo normalmente associados ao treinamento de um modelo no banco de dados completo do ImageNet.

    O conjunto de dados do fake_imagenet é útil apenas para entender como usar um Cloud TPU e validar o desempenho de ponta a ponta. Os números de acurácia e o modelo salvo não são importantes.

    Se você quiser usar o conjunto de dados completo do ImageNet, consulte Como fazer o download, o pré-processamento e o upload do conjunto de dados do ImageNet.

  7. Inicie os recursos do Cloud TPU usando o comando gcloud.

    O comando usado depende se você usa uma VM ou um nó de TPU. Para mais informações sobre a arquitetura de duas VMs, consulte Arquitetura do sistema. Para mais informações sobre o comando gcloud, consulte a Referência da gcloud. Neste tutorial, é especificado um Pod v3-32. Para outras opções de Pod, consulte a página de tipos de TPU disponíveis.

    VM de TPU

    $ gcloud alpha compute tpus tpu-vm create resnet-tutorial \
    --zone=europe-west4-a \
    --accelerator-type=v3-32 \
    --version=tpu-vm-tf-2.9.1-pod
    

    Descrições de sinalizações de comando

    zone
    A zona em que você planeja criar a Cloud TPU.
    accelerator-type
    O tipo da Cloud TPU a ser criada.
    version
    A versão do software do Cloud TPU.

    Nó de TPU

    $ gcloud compute tpus execution-groups create \
    --zone=europe-west4-a \
    --name=resnet-tutorial \
    --accelerator-type=v3-32 \
    --tf-version=2.8.0
    

    Descrições de sinalizações de comando

    zone
    A zona em que você planeja criar a Cloud TPU.
    name
    O nome do Cloud TPU a ser criado.
    accelerator-type
    O tipo da Cloud TPU a ser criada.
    tf-version
    A versão do TensorFlow gcloud é instalada na VM.
  8. Se você não for conectado automaticamente à instância do Compute Engine, faça login executando o seguinte comando ssh. Quando você faz login na VM, o prompt do shell muda de username@projectname para username@vm-instance-name:

    VM de TPU

    $ gcloud alpha compute tpus tpu-vm ssh resnet-tutorial --zone=europe-west4-a
    

    Nó de TPU

    $ gcloud compute ssh resnet-tutorial --zone=europe-west4-a
    

    Ao seguir essas instruções, execute cada comando iniciado por (vm)$ na janela de sessão da VM.

  9. Exporte as variáveis de configuração do Cloud TPU:

    (vm)$ export ZONE=europe-west4-a
    (vm)$ export STORAGE_BUCKET=gs://bucket-name
    
    (vm)$ export TPU_NAME=resnet-tutorial
    (vm)$ export DATA_DIR=gs://cloud-tpu-test-datasets/fake_imagenet
    (vm)$ export MODEL_DIR=${STORAGE_BUCKET}/resnet-2x-pod
    

    O aplicativo de treinamento precisa que os dados de treinamento sejam acessíveis no Cloud Storage. Ele também usa o bucket do Cloud Storage para armazenar checkpoints durante o treinamento.

  10. O script de treinamento do ResNet requer um pacote extra. Instale agora.

    VM de TPU

    (vm)$ pip3 install --user tensorflow-model-optimization>=0.1.3 

    Nó de TPU

    (vm)$ pip3 install --user tensorflow-model-optimization>=0.1.3 
  11. Instale os requisitos do TensorFlow.

    O comando usado depende se você usa VMs ou nós de TPU.

    VM de TPU

    (vm)$ pip3 install -r /usr/share/tpu/models/official/requirements.txt
    

    Nó de TPU

    (vm)$ pip3 install --user -r /usr/share/models/official/requirements.txt
    
  12. Defina a variável de ambiente PYTHONPATH:

    VM de TPU

    (vm)$ export PYTHONPATH="/usr/share/tpu/models:${PYTHONPATH}"
    (vm)$ export TPU_LOAD_LIBRARY=0
    

    Nó de TPU

    (vm)$ export PYTHONPATH="${PYTHONPATH}:/usr/share/models"
    
  13. Mude para o diretório que armazena o modelo:

    VM de TPU

    (vm)$ cd /usr/share/tpu/models
    

    Nó de TPU

    (vm)$ cd /usr/share/models/official/legacy/image_classification/resnet
    
  14. Treine o modelo.

    (vm)$ python3 official/vision/train.py \
    --tpu=${TPU_NAME} \
    --experiment=resnet_imagenet \
    --mode=train_and_eval \
    --config_file=official/vision/configs/experiments/image_classification/imagenet_resnet50_tpu.yaml \
    --model_dir=${MODEL_DIR} \
    --params_override="task.train_data.input_path=${DATA_DIR}/train*, task.validation_data.input_path=${DATA_DIR}/validation*,trainer.train_steps=100"
     

    Descrições de sinalizações de comando

    tpu
    O nome da TPU.
    model_dir
    Especifica o diretório em que os pontos de controle e os resumos são armazenados durante o treinamento do modelo. Se a pasta não existir, ela será criada pelo programa. Ao usar uma Cloud TPU, o model_dir precisa ser um caminho do Cloud Storage (gs://...). É possível reutilizar uma pasta existente para carregar dados dos pontos de controle atuais e armazenar outros pontos, contanto que os anteriores tenham sido criados usando a Cloud TPU com o mesmo tamanho e versão do TensorFlow.

Esse procedimento treina o modelo no conjunto de dados fake_imagenet para 100 etapas de treinamento e 13 etapas de avaliação. O treinamento leva aproximadamente dois minutos em uma Cloud TPU v3-32. Quando o treinamento e a avaliação forem concluídos, mensagens semelhantes a seguir serão exibidas:

{'accuracy': 0.0009716797,
     'learning_rate': 0.10256411,
     'top_5_accuracy': 0.0049560545,
     'training_loss': 8.5587225}
train | step:    100 | steps/sec:    1.2 | output:
    {'accuracy': 0.0009716797,
     'learning_rate': 0.10256411,
     'top_5_accuracy': 0.0049560545,
     'training_loss': 8.5587225}

eval | step:    100 | eval time:   24.8 sec | output:
    {'accuracy': 0.0010141226,
     'top_5_accuracy': 0.004356971,
     'validation_loss': 8.50038}
 eval | step:    100 | eval time:   24.8 sec | output:
    {'accuracy': 0.0010141226,
     'top_5_accuracy': 0.004356971,
     'validation_loss': 8.50038}

Limpar

Para evitar cobranças na sua conta do Google Cloud pelos recursos usados no tutorial, exclua o projeto que os contém ou mantenha o projeto e exclua os recursos individuais.

  1. Desconecte-se da instância do Compute Engine, caso ainda não tenha feito isso:

    (vm)$ exit
    

    Agora, o prompt precisa ser username@projectname, mostrando que você está no Cloud Shell.

  2. Exclua os recursos do Cloud TPU e do Compute Engine. O comando usado para excluir os recursos depende se você está usando VMs ou nós de TPU. Para mais informações, consulte Arquitetura do sistema.

    VM de TPU

    $ gcloud alpha compute tpus tpu-vm delete resnet-tutorial \
    --zone=europe-west4-a
    

    Nó de TPU

    $ gcloud compute tpus execution-groups delete resnet-tutorial \
    --zone=europe-west4-a
    
  3. Execute gcloud compute tpus execution-groups list para verificar se os recursos foram excluídos. A exclusão pode levar vários minutos. O resultado do comando a seguir não pode incluir nenhum dos recursos de TPU criados neste tutorial:

    VM de TPU

    $ gcloud alpha compute tpus tpu-vm list --zone=europe-west4-a

    Nó de TPU

    $ gcloud compute tpus execution-groups list --zone=europe-west4-a
  4. Execute gsutil conforme mostrado. Substitua bucket-name pelo nome do bucket do Cloud Storage criado para este tutorial:

    $ gsutil rm -r gs://bucket-name
    

A seguir

Geralmente, os tutoriais do Cloud TPU do TensorFlow treinam o modelo usando um conjunto de dados de amostra. Os resultados deste treinamento não podem ser usados para inferência. Para usar um modelo para inferência, treine os dados em um conjunto de dados disponível publicamente ou no seu próprio conjunto de dados. Os modelos do TensorFlow treinados em Cloud TPUs geralmente exigem que os conjuntos de dados estejam no formato TFRecord.

Use a amostra da ferramenta de conversão de conjunto de dados para converter um conjunto de dados de classificação de imagem no formato TFRecord. Se você não estiver usando um modelo de classificação de imagem, converta manualmente o conjunto de dados para o TFRecord. Para saber mais, consulte TFRecord e tf.Example.

Ajuste de hiperparâmetros

Para melhorar o desempenho do modelo com o conjunto de dados, é possível ajustar os hiperparâmetros do modelo. Encontre informações sobre hiperparâmetros comuns a todos os modelos compatíveis com a TPU no GitHub. As informações sobre hiperparâmetros específicos do modelo podem ser encontradas no código-fonte de cada modelo. Para saber mais sobre o ajuste de hiperparâmetros, consulte Visão geral do ajuste de hiperparâmetros, Como usar o serviço de ajuste de hiperparâmetros e Ajustar hiperparâmetros.

Inferência

Depois de treinar o modelo, é possível usá-lo para inferência (também chamada de previsão). O AI Platform é uma solução baseada na nuvem para desenvolver, treinar e implantar modelos de machine learning. Depois que um modelo é implantado, use o serviço do AI Platform Prediction.

  • Saiba como treinar e avaliar usando seus dados no lugar dos conjuntos de dados false_imagenet ou ImageNet seguindo o tutorial de conversão do conjunto de dados. O tutorial explica como usar o script de exemplo de conversão de dados de classificação de imagem para converter um conjunto de dados brutos para classificação de imagens em TFRecord utilizáveis por modelos do Cloud TPU Tensorflow.
  • Execute um colab da Cloud TPU que demonstra como executar um modelo de classificação de imagem usando seus próprios dados de imagem.
  • Explore os outros tutoriais da Cloud TPU.
  • Aprenda a usar as ferramentas de monitoramento de TPU no TensorBoard.
  • Veja como treinar o ResNet com Cloud TPU e GKE.