Esta página foi traduzida pela API Cloud Translation.
Switch to English

Como treinar o ShapeMask na Cloud TPU

Neste documento, você verá como executar o modelo ShapeMask usando a Cloud TPU com o conjunto de dados COCO.

Nas instruções abaixo, presume-se que você conheça a execução de um modelo na Cloud TPU. Se você conhece a Cloud TPU há pouco tempo, consulte o guia de início rápido para ver os conceitos básicos.

Se você planeja treinar em uma fração do pod da TPU, veja como realizar o treinamento em pods de TPU para entender as alterações de parâmetros necessárias para frações de pod.

Objetivos

  • Criar um bucket do Cloud Storage para armazenar o conjunto de dados e a saída do modelo.
  • Preparar o conjunto de dados COCO.
  • Configurar uma VM do Compute Engine e um nó da Cloud TPU para treinamento e avaliação.
  • Executar treinamento e avaliação em uma única Cloud TPU ou em um pod da Cloud TPU.

Custos

Neste tutorial, há componentes faturáveis do Google Cloud, entre eles:

  • Compute Engine
  • Cloud TPU
  • Cloud Storage

Use a calculadora de preços para gerar uma estimativa de custos baseada na projeção de uso. Novos usuários do Google Cloud podem estar qualificados para uma avaliação gratuita.

Antes de começar

Antes de começar o tutorial, verifique se o projeto do Google Cloud foi configurado corretamente.

  1. Faça login na sua conta do Google.

    Se você ainda não tiver uma, inscreva-se.

  2. No Console do Google Cloud, na página do seletor de projetos, selecione ou crie um projeto do Google Cloud.

    Acessar a página do seletor de projetos

  3. Verifique se o faturamento está ativado para seu projeto na nuvem. Saiba como confirmar se o faturamento está ativado para o projeto.

  4. Este tutorial usa componentes faturáveis do Google Cloud. Consulte a página de preços da Cloud TPU para fazer uma estimativa dos custos. Para evitar cobranças desnecessárias, não se esqueça de apagar os recursos criados ao terminar de usá-los.

Se você planeja treinar em uma fração do pod da TPU, veja como realizar o treinamento em pods de TPU para entender as alterações de parâmetros necessárias para frações de pod.

Configurar os recursos

Nesta seção, fornecemos informações sobre como configurar os recursos do Cloud Storage, da VM e do Cloud TPU para este tutorial.

  1. Abra uma janela do Cloud Shell.

    Abrir o Cloud Shell

  2. Crie uma variável para o ID do seu projeto.

    export PROJECT_ID=project-id
    
  3. Configure a ferramenta de linha de comando gcloud para usar o projeto em que a Cloud TPU será criada.

    gcloud config set project ${PROJECT_ID}
    

    Na primeira vez que você executar esse comando em uma nova VM do Cloud Shell, será exibida uma página Authorize Cloud Shell. Clique em Authorize na parte inferior da página para permitir que gcloud faça chamadas de API do GCP com suas credenciais.

  4. Crie uma conta de serviço para o projeto da Cloud TPU.

    gcloud beta services identity create --service tpu.googleapis.com --project $PROJECT_ID
    

    O comando retorna uma conta de serviço do Cloud TPU com o formato a seguir:

    service-PROJECT_NUMBER@cloud-tpu.iam.gserviceaccount.com
    

  5. Crie um bucket do Cloud Storage usando o seguinte comando:

    gsutil mb -p ${PROJECT_ID} -c standard -l europe-west4 -b on gs://bucket-name
    

    Esse bucket do Cloud Storage armazena os dados usados para treinar o modelo e os resultados do treinamento. A ferramenta gcloud compute tpus execution-groups usada neste tutorial configura permissões padrão para a conta de serviço da Cloud TPU. Caso queira permissões mais específicas, consulte as permissões de nível de acesso.

    O local do bucket precisa estar na mesma região da máquina virtual (VM) e do nó da TPU. As VMs e os nós da TPU estão localizados em zonas específicas, que são subdivisões dentro de uma região.

  6. Inicie uma instância de VM do Compute Engine.

    $ gcloud compute tpus execution-groups create --vm-only \
     --name=shapemask-tutorial \
     --zone=us-central1-a \
     --disk-size=300 \
     --machine-type=n1-standard-16 \
     --tf-version=1.15.5
    

    Descrições de sinalizações de comando

    vm-only
    Crie somente uma VM. Por padrão, o comando gcloud compute tpus execution-groups cria uma VM e um Cloud TPU.
    name
    O nome da Cloud TPU a ser criada.
    zone
    A zona em que você planeja criar a Cloud TPU.
    disk-size
    O tamanho do disco rígido em GB da VM criada pelo comando gcloud compute tpus execution-groups .
    machine-type
    O tipo de máquina da VM do Compute Engine a ser criado.
    tf-version
    A versão do ctpu do Tensorflow é instalada na VM.
  7. A configuração especificada aparecerá. Digite y para aprovar ou n para cancelar.

    Quando o comando gcloud compute tpus execution-groups terminar a execução, verifique se o prompt do shell foi alterado de username@projectname para username@vm-name. Essa alteração mostra que você fez login na VM do Compute Engine.

    gcloud compute ssh shapemask-tutorial --zone=us-central1-a
    

    Ao continuar essas instruções, execute cada comando que começa com (vm)$ na instância do Compute Engine.

  8. Crie uma variável de ambiente para armazenar o local do bucket do Cloud Storage.

    (vm)$ export STORAGE_BUCKET=gs://bucket-name
    
  9. Crie uma variável de ambiente para o diretório de dados.

    (vm)$ export DATA_DIR=${STORAGE_BUCKET}/coco
    
  10. Clone o repositório tpu.

    (vm)$ git clone -b shapemask https://github.com/tensorflow/tpu/
    
  11. Instale os pacotes necessários para pré-processar os dados.

    (vm)$ sudo apt-get install -y python3-tk && \
      pip3 install --user Cython matplotlib opencv-python-headless pyyaml Pillow && \
      pip3 install --user "git+https://github.com/cocodataset/cocoapi#egg=pycocotools&subdirectory=PythonAPI"
    

Preparar o conjunto de dados COCO

  1. Execute o script download_and_preprocess_coco.sh para converter o conjunto de dados COCO em um conjunto de TFRecords (*.tfrecord) esperado pelo aplicativo de treinamento.

    (vm)$ sudo bash /usr/share/tpu/tools/datasets/download_and_preprocess_coco.sh ./data/dir/coco
    

    Isso instala as bibliotecas necessárias e executa o script de pré-processamento. A saída são alguns arquivos *.tfrecord no diretório de dados.

  2. Depois de converter os dados para TFRecords, use o comando gsutil para copiá-los do armazenamento local para o bucket do Cloud Storage. Também é preciso copiar os arquivos de anotação. Eles ajudam a validar o desempenho do modelo.

    (vm)$ gsutil -m cp ./data/dir/coco/*.tfrecord ${DATA_DIR}
    (vm)$ gsutil cp ./data/dir/coco/raw-data/annotations/*.json ${DATA_DIR}
    

Configure e inicie a Cloud TPU

  1. Inicie um recurso do Cloud TPU usando o comando gcloud.

    (vm)$ gcloud compute tpus execution-groups create \
     --tpu-only \
     --accelerator-type=v3-8  \
     --name=shapemask-tutorial \
     --zone=us-central1-a \
     --tf-version=1.15.5
    

    Descrições de sinalizações de comando

    tpu-only
    Cria a Cloud TPU sem criar uma VM. Por padrão, o comando gcloud compute tpus execution-groups cria uma VM e uma Cloud TPU.
    accelerator-type
    O tipo da Cloud TPU a ser criada.
    name
    O nome da Cloud TPU a ser criada.
    zone
    A zona em que você planeja criar a Cloud TPU.
    tf-version
    A versão do Tensorflow ctpu é instalada na VM.
  2. A configuração especificada aparecerá. Digite y para aprovar ou n para cancelar.

    Você verá a mensagem: Operation success; not ssh-ing to Compute Engine VM due to --tpu-only flag. Como você já concluiu a propagação de chave SSH anteriormente, ignore essa mensagem.

  3. Adicione uma variável de ambiente para o nome do Cloud TPU.

    (vm)$ export TPU_NAME=shapemask-tutorial
    

Executar o script de treinamento e avaliação

  1. Crie as variáveis de ambiente a seguir:

    (vm)$ export MODEL_DIR=${STORAGE_BUCKET}/shapemask_exp
    (vm)$ export RESNET_CHECKPOINT=gs://cloud-tpu-checkpoints/shapemask/retinanet/resnet101-checkpoint-2018-02-24
    (vm)$ export TRAIN_FILE_PATTERN=${DATA_DIR}/train-*
    (vm)$ export EVAL_FILE_PATTERN=${DATA_DIR}/val-*
    (vm)$ export VAL_JSON_FILE=${DATA_DIR}/instances_val2017.json
    (vm)$ export SHAPE_PRIOR_PATH=gs://cloud-tpu-checkpoints/shapemask/kmeans_class_priors_91x20x32x32.npy
    (vm)$ export PYTHONPATH=${PYTHONPATH}:$HOME/tpu/models
    
  2. Execute o script a seguir para realizar o treinamento.

    (vm)$ python3 ~/tpu/models/official/detection/main.py \
    --model=shapemask \
    --use_tpu=True \
    --tpu=${TPU_NAME} \
    --num_cores=8 \
    --model_dir=${MODEL_DIR} \
    --mode="train" \
    --eval_after_training=False \
    --params_override="{train: {iterations_per_loop: 1000, train_batch_size: 64, total_steps: 1000, learning_rate: {total_steps: 1000, warmup_learning_rate: 0.0067, warmup_steps: 500, init_learning_rate: 0.08, learning_rate_levels: [0.008, 0.0008], learning_rate_steps: [30000, 40000]}, checkpoint: { path: ${RESNET_CHECKPOINT}, prefix: resnet101/ }, train_file_pattern: ${TRAIN_FILE_PATTERN} }, resnet: {resnet_depth: 101}, eval: { val_json_file: ${VAL_JSON_FILE}, eval_file_pattern: ${EVAL_FILE_PATTERN}, eval_samples: 5000 }, shapemask_head: {use_category_for_mask: true, shape_prior_path: ${SHAPE_PRIOR_PATH}}, shapemask_parser: {output_size: [1024, 1024]}, }"
    

    Descrições de sinalizações de comando

    model
    O modelo a ser treinado.
    use_tpu
    Defina como true para treinar em um Cloud TPU.
    tpu_name
    O nome do Cloud TPU a ser usado para treinamento.
    num_cores
    O número de núcleos do Cloud TPU a serem usados no treinamento.
    model_dir
    O bucket do Cloud Storage em que os checkpoints e os resumos são armazenados durante o treinamento. Use uma pasta existente para carregar checkpoints gerados anteriormente que foram criados em uma TPU do mesmo tamanho e versão do TensorFlow.
    mode
    Um dos train, eval ou train_and_eval.
    eval_after_training
    Defina como true para avaliar o modelo após o treinamento.
    params_override
    Uma string JSON que modifica parâmetros de script padrão. Para mais informações sobre parâmetros de script, consulte /usr/share/models/official/vision/detection/main.py.

Neste ponto, conclua este tutorial e limpe os recursos do GCP ou explore melhor a execução do modelo em um pod do Cloud TPU.

Como escalonar o modelo com os pods da Cloud TPU

Para resultados mais rápidos, escalone o modelo com os pods da Cloud TPU. O modelo Mask RCNN totalmente compatível pode funcionar com as seguintes frações de pod:

  • v2-32
  • v3-32

Ao trabalhar com pods da Cloud TPU, primeiro treine o modelo usando um pod e, em seguida, use um único dispositivo da Cloud TPU para avaliá-lo.

Como treinar com pods da Cloud TPU

Se você já tiver excluído sua instância do Compute Engine, crie uma nova seguindo as etapas em Configurar seus recursos.

  1. Exclua o recurso da Cloud TPU criado para treinar o modelo em um único dispositivo.

    (vm)$ gcloud compute tpus execution-groups delete shapemask-tutorial \
      --zone=us-central1-a \
      --tpu-only
  2. Acesse o bucket do Cloud Storage e exclua o arquivo checkpoint.

  3. Execute o comando gcloud compute tpus execution-groups, usando o parâmetro accelerator-type para especificar a fração de pod a ser usada. Por exemplo, o comando a seguir usa uma fração de pod v3-32.

    (vm)$ gcloud compute tpus execution-groups  create --name=shapemask-tutorial \
      --accelerator-type=v2-32  \
      --zone=us-central1-a \
      --tf-version=1.15.5 \
      --tpu-only
    

    Descrições de sinalizações de comando

    name
    O nome da Cloud TPU a ser criada.
    accelerator-type
    O tipo da Cloud TPU a ser criada.
    zone
    A zona em que você planeja criar a Cloud TPU.
    tf-version
    A versão do gcloud do Tensorflow é instalada na VM.
    tpu-only
    Crie apenas uma Cloud TPU. Por padrão, o comando gcloud cria uma VM e uma Cloud TPU.
  4. Execute o script a seguir para treinar o modelo em um pod.

    Com a linha de comando especificada, o script de treinamento leva aproximadamente 45 minutos para ser executado. Para executar a conversão, defina total_steps como 22000.

    (vm)$ python3 ~/tpu/models/official/detection/main.py \
    --model shapemask \
    --use_tpu=True \
    --tpu=${TPU_NAME} \
    --num_cores=32 \
    --model_dir=${MODEL_DIR} \
    --mode="train" \
    --eval_after_training=False \
    --params_override="{train: {iterations_per_loop: 1000, train_batch_size: 256, total_steps: 1000, learning_rate: {total_steps: 1000, warmup_learning_rate: 0.0067, warmup_steps: 500, init_learning_rate: 0.08, learning_rate_levels: [0.008, 0.0008], learning_rate_steps: [15000, 20000]}, checkpoint: { path: ${RESNET_CHECKPOINT}, prefix: resnet101/ }, train_file_pattern: ${TRAIN_FILE_PATTERN} }, resnet: {resnet_depth: 101}, eval: { val_json_file: ${VAL_JSON_FILE}, eval_file_pattern: ${EVAL_FILE_PATTERN}, eval_samples: 5000 }, shapemask_head: {use_category_for_mask: true, shape_prior_path: ${SHAPE_PRIOR_PATH}}, shapemask_parser: {output_size: [1024, 1024]}, }"
    

    Descrições de sinalizações de comando

    strategy_type
    Para treinar o modelo RetinaNet em uma TPU, defina distribution_strategy como tpu.
    tpu
    O nome da Cloud TPU. Isso é definido usando a variável de ambiente TPU_NAME.
    model_dir
    O bucket do Cloud Storage em que os checkpoints e os resumos são armazenados durante o treinamento. Use uma pasta existente para carregar os checkpoints gerados anteriormente que foram criados em uma TPU do mesmo tamanho e versão do TensorFlow.
    mode
    Um dos train, eval ou train_and_eval.
    model
    O modelo a ser treinado.
    eval_after_training
    Defina como true para avaliar o modelo após o treinamento.
    params_override
    Uma string JSON que modifica parâmetros de script padrão. Para mais informações sobre parâmetros de script, consulte /usr/share/models/official/vision/detection/main.py.
  5. O modelo precisa ser avaliado em um único dispositivo do Cloud TPU. Exclua o dispositivo do pod do Cloud TPU.

    $ gcloud compute tpus execution-groups delete shapemask-tutorial \
      --zone=us-central1-a
    
  6. Crie um único recurso do Cloud TPU.

    (vm)$ gcloud compute tpus execution-groups create \
     --tpu-only \
     --accelerator-type=v3-8  \
     --name=shapemask-tutorial \
     --zone=us-central1-a \
     --tf-version=1.15.5
    

    Descrições de sinalizações de comando

    tpu-only
    Cria a Cloud TPU sem criar uma VM. Por padrão, o comando gcloud compute tpus execution-groups cria uma VM e uma Cloud TPU.
    tpu-size
    O tipo da Cloud TPU a ser criada.
    name
    O nome da Cloud TPU a ser criada.
    zone
    A zona em que você planeja criar a Cloud TPU.
    tf-version
    A versão do Tensorflow ctpu é instalada na VM.
  7. Execute o script para realizar a avaliação.

    (vm)$ python3 ~/tpu/models/official/detection/main.py \
    --model shapemask \
    --use_tpu=True \
    --tpu=${TPU_NAME} \
    --num_cores=8 \
    --model_dir=${MODEL_DIR} \
    --mode="eval" \
    --eval_after_training=False \
    --params_override="{train: {iterations_per_loop: 1000, train_batch_size: 256, total_steps: 1000, learning_rate: {total_steps: 1000, warmup_learning_rate: 0.0067, warmup_steps: 500, init_learning_rate: 0.08, learning_rate_levels: [0.008, 0.0008], learning_rate_steps: [15000,20000]}, checkpoint: { path: ${RESNET_CHECKPOINT}, prefix: resnet101/ }, train_file_pattern: ${TRAIN_FILE_PATTERN} }, resnet: {resnet_depth: 101}, eval: { val_json_file: ${VAL_JSON_FILE}, eval_file_pattern: ${EVAL_FILE_PATTERN}, eval_samples: 5000 }, shapemask_head: {use_category_for_mask: true, shape_prior_path: ${SHAPE_PRIOR_PATH}}, shapemask_parser: {output_size: [1024, 1024]}, }"

    Descrições de sinalizações de comando

    model
    O modelo a ser treinado.
    use_tpu
    Defina como true para treinar em um Cloud TPU.
    tpu
    O nome da Cloud TPU. Isso é definido usando a variável de ambiente TPU_NAME.
    num_cores
    O número de núcleos do Cloud TPU a serem usados no treinamento.
    model_dir
    O bucket do Cloud Storage em que os checkpoints e os resumos são armazenados durante o treinamento. Use uma pasta existente para carregar checkpoints gerados anteriormente que foram criados em uma TPU do mesmo tamanho e versão do TensorFlow.
    mode
    Um dos train, eval ou train_and_eval.
    eval_after_training
    Defina como true para avaliar o modelo após o treinamento.
    params_override
    Uma string JSON que modifica parâmetros de script padrão. Para mais informações sobre parâmetros de script, consulte /usr/share/models/official/vision/detection/main.py.

    A saída do script de avaliação é semelhante a esta:

    Eval result: {
     'AP75': 0.116238795,
     'AP': 0.121657856,
     'mask_ARmax100': 0.29928473,
     'APl': 0.17029367,
     'mask_ARmax1': 0.17677748,
     'ARs': 0.14137766,
     'mask_AP': 0.12017078,
     'ARmax10': 0.29230836,
     'mask_AP50': 0.20920053,
     'ARm': 0.34366703,
     'AP50': 0.22949784,
     'mask_ARl': 0.41743836,
     'mask_ARs': 0.12669834,
     'APs': 0.046222884,
     'mask_APs': 0.041104294,
     'mask_APl': 0.17535995,
     'mask_ARm': 0.34216145,
     'mask_ARmax10': 0.28690106,
     'APm': 0.14354791,
     'ARmax100': 0.3058479,
     'ARmax1': 0.17576972,
     'ARl': 0.41305476,
     'mask_APm': 0.1422335,
     'mask_AP75': 0.12010279
    }
    

Limpeza

Para evitar cobranças na sua conta do Google Cloud pelos recursos usados no tutorial, exclua o projeto que os contém ou mantenha o projeto e exclua os recursos individuais.

  1. Desconecte-se da instância do Compute Engine.

    (vm)$ exit
    

    Agora, o prompt precisa ser username@projectname, mostrando que você está no Cloud Shell.

  2. No Cloud Shell, use o seguinte comando para excluir a VM do Compute Engine e o Cloud TPU:

    $ gcloud compute tpus execution-groups delete shapemask-tutorial \
      --zone=us-central1-a
    
  3. Verifique se os recursos foram excluídos executando gcloud compute tpus execution-groups list. A exclusão pode levar vários minutos. Uma resposta como esta indica que suas instâncias foram excluídas com sucesso.

    $ gcloud compute tpus execution-groups list \
     --zone=us-central1-a
    

    Você verá uma lista vazia de TPUs como esta:

       NAME             STATUS
    
  4. Exclua o bucket do Cloud Storage usando gsutil, conforme mostrado abaixo. Substitua bucket-name pelo nome do seu bucket no Cloud Storage.

    .
    $ gsutil rm -r gs://bucket-name
    

A seguir

Neste tutorial, você treinou o modelo ShapeMask usando um conjunto de dados de amostra. Os resultados deste treinamento (na maioria dos casos) não podem ser usados para inferência. Para usar um modelo para inferência, é possível treinar os dados em um conjunto de dados disponível publicamente ou no seu próprio conjunto de dados. Os modelos treinados nas Cloud TPUs exigem que os conjuntos de dados estejam no formato TFRecord.

Use a amostra da ferramenta de conversão de conjunto de dados para converter um conjunto de dados de classificação de imagem no formato TFRecord. Se você não estiver usando um modelo de classificação de imagem, converta manualmente o conjunto de dados para o TFRecord. Para mais informações, consulte TFRecord e tf.Example

Ajuste de hiperparâmetros

Para melhorar o desempenho do modelo com o conjunto de dados, é possível ajustar os hiperparâmetros. Encontre informações sobre hiperparâmetros comuns a todos os modelos compatíveis com a TPU no GitHub. As informações sobre hiperparâmetros específicos do modelo podem ser encontradas no código-fonte de cada modelo. Para mais informações sobre o ajuste de hiperparâmetros, consulte Visão geral do ajuste de hiperparâmetros, Como usar o serviço de ajuste de hiperparâmetros e Ajustar hiperparâmetros.

Inferência

Depois de treinar o modelo, é possível usá-lo para inferência (também chamada de previsão). O AI Platform é uma solução baseada em nuvem para desenvolver, treinar e implantar modelos de machine learning. Depois que um modelo é implantado, use o serviço do AI Platform Prediction.

Treinar com diferentes tamanhos de imagem

Tente usar uma rede neural maior (por exemplo, ResNet-101 em vez de ResNet-50). Uma imagem maior de entrada e uma rede neural mais potente produzirão um modelo mais lento, porém, mais preciso.

Usar uma base diferente

Se preferir, faça o pré-treinamento de um modelo do ResNet no seu próprio conjunto de dados e use-o como base para o modelo do ShapeMask. Com mais trabalho, você também pode trocar em uma rede neural alternativa no lugar do ResNet. Por fim, caso tenha interesse em implementar modelos próprios de detecção de objetos, essa rede pode ser uma boa base para fazer mais experimentos.