Mask RCNN auf Cloud TPU trainieren (TF 2.x)

---

Übersicht

In dieser Anleitung wird erläutert, wie Sie das Mask RCNN-Modell mit Cloud TPU mit dem COCO-Dataset ausführen.

Mask RCNN ist ein neuronales Deep-Learning-Netzwerk, das für die Objekterkennung und Bildsegmentierung entwickelt wurde, eine der komplexeren Herausforderungen beim maschinellen Sehen.

Das Mask RCNN-Modell generiert Begrenzungsrahmen und Segmentierungsmasken für jede Instanz eines Objekts im Bild. Das Modell beruht auf dem Feature Pyramid Network (FPN) und einem ResNet50-Backbone.

In dieser Anleitung wird das Modell mit Tensorflow Keras APIs trainiert. Die Keras API ist eine übergeordnete TensorFlow API und kann zum Erstellen und Ausführen eines Modells für maschinelles Lernen auf Cloud TPU verwendet werden. Die API vereinfacht den Modellentwicklungsprozess. Sie blendet die meisten Implementierungen auf untergeordneter Ebene aus, wodurch leichter zwischen der TPU und anderen Plattformen wie GPUs oder CPUs gewechselt werden kann.

In der folgenden Anleitung wird davon ausgegangen, dass Sie bereits mit dem Trainieren eines Modells auf Cloud TPU vertraut sind. Wenn Sie Cloud TPU noch nicht kennen, finden Sie in der Kurzanleitung eine grundlegende Einführung.

Warnung: Mask RCNN verwendet ein Dataset eines Drittanbieters. Google gibt keine Zusicherungen, Gewährleistungen oder Garantien hinsichtlich der Gültigkeit oder anderer Aspekte dieses Datasets.

Lernziele

• COCO-Dataset vorbereiten
• Cloud Storage-Bucket zum Speichern der Dataset- und Modellausgabe erstellen
• TPU-Ressourcen für Training und Evaluierung einrichten
• Training und Bewertung auf einer einzelnen Cloud TPU oder einem Cloud TPU Pod ausführen

Kosten

In dieser Anleitung werden die folgenden kostenpflichtigen Komponenten von Google Cloud verwendet:

• Compute Engine
• Cloud TPU
• Cloud Storage

Mit dem Preisrechner können Sie eine Kostenschätzung für Ihre voraussichtliche Nutzung vornehmen. Neuen Google Cloud-Nutzern steht möglicherweise eine kostenlose Testversion zur Verfügung.

Hinweis

Wichtig: Sie können diese Anleitung entweder mit der TPU-VM oder mit der TPU-Knotenkonfiguration verwenden. Die beiden VM-Architekturen werden unter Systemarchitektur beschrieben. Welche gcloud-Befehle Sie verwenden, hängt von der verwendeten TPU-Konfiguration ab. In dieser Anleitung wird jeder gcloud-Befehl in einem Tabbereich angezeigt. Wählen Sie den Tab für die TPU-Konfiguration aus, die Sie verwenden möchten, und auf der Webseite wird der entsprechende gcloud-Befehl angezeigt. Sofern Sie nicht unbedingt TPU-Knoten verwenden müssen, empfehlen wir die Verwendung von TPU-VMs.

Bevor Sie mit dieser Anleitung beginnen, prüfen Sie, ob Ihr Google Cloud-Projekt ordnungsgemäß eingerichtet ist.

1. Melden Sie sich bei Ihrem Google Cloud-Konto an. Wenn Sie mit Google Cloud noch nicht vertraut sind, erstellen Sie ein Konto, um die Leistungsfähigkeit unserer Produkte in der Praxis sehen und bewerten zu können. Neukunden erhalten außerdem ein Guthaben von 300 $, um Arbeitslasten auszuführen, zu testen und bereitzustellen.

2. Wählen Sie in der Google Cloud Console auf der Seite der Projektauswahl ein Google Cloud-Projekt aus oder erstellen Sie eines.

   Hinweis: Wenn Sie die Ressourcen, die Sie in diesem Verfahren erstellen, nicht behalten möchten, erstellen Sie ein Projekt, anstatt ein vorhandenes Projekt auszuwählen. Wenn Sie fertig sind, können Sie das Projekt löschen und dadurch alle mit dem Projekt verknüpften Ressourcen entfernen.

   Zur Projektauswahl

3. Die Abrechnung für das Cloud-Projekt muss aktiviert sein. So prüfen Sie, ob die Abrechnung für ein Projekt aktiviert ist.

4. Wählen Sie in der Google Cloud Console auf der Seite der Projektauswahl ein Google Cloud-Projekt aus oder erstellen Sie eines.

   Hinweis: Wenn Sie die Ressourcen, die Sie in diesem Verfahren erstellen, nicht behalten möchten, erstellen Sie ein Projekt, anstatt ein vorhandenes Projekt auszuwählen. Wenn Sie fertig sind, können Sie das Projekt löschen und dadurch alle mit dem Projekt verknüpften Ressourcen entfernen.

   Zur Projektauswahl

5. Die Abrechnung für das Cloud-Projekt muss aktiviert sein. So prüfen Sie, ob die Abrechnung für ein Projekt aktiviert ist.

In dieser Anleitung werden kostenpflichtige Komponenten der Google Cloud verwendet. Rufen Sie die Seite mit den Cloud TPU-Preisen auf, um Ihre Kosten abzuschätzen. Denken Sie daran, nicht mehr benötigte Ressourcen zu bereinigen, um unnötige Kosten zu vermeiden.

COCO-Dataset vorbereiten

In dieser Anleitung wird das COCO-Dataset verwendet. Das Dataset muss im TFRecord-Format in einem Cloud Storage-Bucket vorliegen, der für das Training verwendet werden soll.

Wenn Sie das COCO-Dataset bereits in einem Cloud Storage-Bucket vorbereitet haben, der sich im Zone befindet, die Sie für das Modell trainieren verwenden werden, können Sie direkt zu Training mit einem einzelnen Gerät wechseln. Führen Sie andernfalls folgende Schritte aus, um das Dataset vorzubereiten.

1. Öffnen Sie ein Cloud Shell-Fenster.

   Cloud Shell öffnen

2. Konfigurieren Sie gcloud in Cloud Shell mit Ihrer Projekt-ID.

   export PROJECT_ID=project-id
   gcloud config set project ${PROJECT_ID}
   

3. Erstellen Sie in Ihrer Cloud Shell mit folgendem Befehl einen Cloud Storage-Bucket:

   Hinweis: Ersetzen Sie im folgenden Befehl bucket-name durch den Namen, den Sie Ihrem Bucket zuweisen möchten.

   gsutil mb -p ${PROJECT_ID} -c standard -l europe-west4 gs://bucket-name
   

4. Starten Sie eine Compute Engine-VM-Instanz.

   Diese VM-Instanz wird ausschließlich zum Herunterladen und Vorverarbeiten des COCO-Datasets verwendet. Geben Sie in instance-name einen Namen Ihrer Wahl ein.

   $ gcloud compute tpus execution-groups create \
    --vm-only \
    --name=instance-name \
    --zone=europe-west4-a \
    --disk-size=300 \
    --machine-type=n1-standard-16 \
    --tf-version=2.11.0
   

   Beschreibung der Befehls-Flags

   vm-only

   Erstellen Sie nur eine VM. Standardmäßig werden mit dem Befehl gcloud compute tpus execution-groups eine VM und eine Cloud TPU erstellt.

   name

   Der Name der zu erstellenden Cloud TPU.

   zone

   Die Zone, in der Sie Ihre Cloud TPU erstellen möchten.

   disk-size

   Die Größe der Festplatte der VM, die mit dem Befehl gcloud compute tpus execution-groups erstellt wurde, in GB.

   machine-type

   Der Maschinentyp der zu erstellenden Compute Engine-VM.

   tf-version

   Die Version von TensorFlow gcloud compute tpus execution-groups wird auf der VM installiert.

5. Wenn Sie nicht automatisch bei der Compute Engine-Instanz angemeldet werden, melden Sie sich mit dem folgenden ssh-Befehl an. Wenn Sie bei der VM angemeldet sind, ändert sich die Shell-Eingabeaufforderung von username@projectname in username@vm-name:

     $ gcloud compute ssh instance-name --zone=europe-west4-a
     

6. Richten Sie zwei Variablen ein, eine für den zuvor erstellten Storage-Bucket und eine für das Verzeichnis, das die Trainingsdaten (DATA_DIR) im Storage-Bucket enthält.

   (vm)$ export STORAGE_BUCKET=gs://bucket-name
   

   (vm)$ export DATA_DIR=${STORAGE_BUCKET}/coco

7. Installieren Sie die Pakete, die für die Vorverarbeitung der Daten erforderlich sind.

   (vm)$ sudo apt-get install -y python3-tk && \
     pip3 install --user Cython matplotlib opencv-python-headless pyyaml Pillow && \
     pip3 install --user "git+https://github.com/cocodataset/cocoapi#egg=pycocotools&subdirectory=PythonAPI"
   

8. Führen Sie das Skript download_and_preprocess_coco.sh aus, um das COCO-Dataset in einen Satz von TFRecords (*.tfrecord) zu konvertieren, der von der Trainingsanwendung erwartet wird.

   (vm)$ git clone https://github.com/tensorflow/tpu.git
   (vm)$ sudo bash tpu/tools/datasets/download_and_preprocess_coco.sh ./data/dir/coco
   

   Dadurch werden die erforderlichen Bibliotheken installiert und das Skript für die Vorverarbeitung ausgeführt. Dann werden verschiedene *.tfrecord-Dateien in Ihr lokales Datenverzeichnis ausgegeben. Der COCO-Download und das Ausführen des Konvertierungsskripts dauern ungefähr eine Stunde.

9. Daten in den Cloud Storage-Bucket kopieren

   Nachdem Sie die Daten in TFRecords konvertiert haben, kopieren Sie sie mit dem Befehl gsutil aus dem lokalen Speicher in den Cloud Storage-Bucket. Die Annotationsdateien müssen ebenfalls kopiert werden. Diese Dateien helfen dabei, die Leistung des Modells zu validieren.

   (vm)$ gsutil -m cp ./data/dir/coco/*.tfrecord ${DATA_DIR}
   (vm)$ gsutil cp ./data/dir/coco/raw-data/annotations/*.json ${DATA_DIR}
   

10. Bereinigen Sie die VM-Ressourcen.

    Nachdem das COCO-Dataset in TFRecords konvertiert und in DATA_DIR in Ihrem Cloud Storage-Bucket kopiert wurde, können Sie die Compute Engine-Instanz löschen.

    Trennen Sie die Verbindung zur Compute Engine-Instanz:

    (vm)$ exit
    

    Die Eingabeaufforderung sollte nun username@projectname lauten und angeben, dass Sie sich in Cloud Shell befinden.

11. Löschen Sie die Compute Engine-Instanz.

      $ gcloud compute instances delete instance-name
        --zone=europe-west4-a
      

Cloud TPU-Training mit Einzelgerät

Hinweis: Möchten Sie das Modell mit einem Cloud TPU Pod trainieren? Siehe TPU-Pod-Training.

Wichtig: Richten Sie alle Ressourcen in derselben Region/Zone ein, um die Netzwerklatenz und Netzwerkkosten zu reduzieren.

1. Öffnen Sie ein Cloud Shell-Fenster.

   Cloud Shell öffnen

2. Erstellen Sie eine Umgebungsvariable für die Projekt-ID.

   export PROJECT_ID=project-id

3. Konfigurieren Sie die Google Cloud CLI so, dass das Projekt verwendet wird, in dem Sie die Cloud TPU erstellen möchten.

   gcloud config set project ${PROJECT_ID}
   

   Wenn Sie diesen Befehl zum ersten Mal in einer neuen Cloud Shell-VM ausführen, wird die Seite Authorize Cloud Shell angezeigt. Klicken Sie unten auf der Seite auf Authorize, um gcloud zu erlauben, Google Cloud API-Aufrufe mit Ihren Anmeldedaten auszuführen.

4. Erstellen Sie ein Dienstkonto für das Cloud TPU-Projekt.

   gcloud beta services identity create --service tpu.googleapis.com --project $PROJECT_ID
   

   Der Befehl gibt ein Cloud TPU-Dienstkonto im folgenden Format zurück:

   [e-mail]
   

5. Exportieren Sie TPU-Einrichtungsvariablen.

   Exportieren Sie Ihre Projekt-ID, den Namen, den Sie für Ihre TPU-Ressourcen verwenden möchten, sowie die Zone, in der Sie das Modell trainieren und alle trainingsbezogenen Daten speichern.

   $ export TPU_NAME=mask-rcnn-tutorial
   $ export ZONE=europe-west4-a
   

6. Starten Sie mit dem Befehl gcloud eine Compute Engine-VM und eine Cloud TPU. Der verwendete Befehl hängt davon ab, ob Sie TPU-VMs oder TPU-Knoten verwenden. Weitere Informationen zu beiden VM-Architekturen finden Sie unter Systemarchitektur.

   Hinweis: Wenn Sie mehrere Projekte haben, müssen Sie die Projekt-ID mit dem Flag --project angeben.

   TPU-VM

   $ gcloud compute tpus tpu-vm create mask-rcnn-tutorial \
   --zone=europe-west4-a \
   --accelerator-type=v3-8 \
   --version=tpu-vm-tf-2.11.0
   

   Beschreibung der Befehls-Flags

   zone

   Die Zone, in der Sie Ihre Cloud TPU erstellen möchten.

   accelerator-type

   Der Typ der zu erstellenden Cloud TPU.

   version

   Die Cloud TPU-Softwareversion.

   Hinweis: Das erstmalige Erstellen einer TPU-VM in einem Projekt dauert einige Minuten, um Startaufgaben wie die SSH-Schlüsselverbreitung und die API-Aktivierung auszuführen.

   TPU-Knoten

   Wichtig: Sie müssen TensorFlow 2.11.0 oder höher verwenden.

   $ gcloud compute tpus execution-groups create  \
    --zone=europe-west4-a \
    --name=mask-rcnn-tutorial \
    --accelerator-type=v3-8 \
    --machine-type=n1-standard-8 \
    --disk-size=300 \
    --tf-version=2.11.0
   

   Beschreibung der Befehls-Flags

   zone

   Die Zone, in der Sie Ihre Cloud TPU erstellen möchten.

   name

   Der TPU-Name. Ist standardmäßig Ihr Nutzername, wenn nichts anderes angegeben ist.

   accelerator-type

   Der Typ der zu erstellenden Cloud TPU.

   machine-type

   Der Maschinentyp der zu erstellenden Compute Engine-VM.

   disk-size

   Die Größe des Stamm-Volumes Ihrer Compute Engine-VM (in GB).

   tf-version

   Die Version von TensorFlow gcloud wird auf der VM installiert.

   Weitere Informationen zum Befehl gcloud finden Sie in der gcloud-Referenz.

7. Wenn Sie nicht automatisch bei der Compute Engine-Instanz angemeldet werden, melden Sie sich mit dem folgenden ssh-Befehl an. Wenn Sie bei der VM angemeldet sind, ändert sich die Shell-Eingabeaufforderung von username@projectname in username@vm-name:

   TPU-VM

   gcloud compute tpus tpu-vm ssh mask-rcnn-tutorial --zone=europe-west4-a
   

   TPU-Knoten

   gcloud compute tpus execution-groups ssh mask-rcnn-tutorial --zone=europe-west4-a
   

   Wichtiger Hinweis: Ab jetzt bedeutet das Präfix (vm)$, dass Sie den Befehl in der Compute Engine-VM-Instanz ausführen sollten.

8. Installieren Sie TensorFlow-Anforderungen.

   Der verwendete Befehl hängt davon ab, ob Sie TPU-VMs oder TPU-Knoten verwenden.

   TPU-VM

   (vm)$ pip3 install -r /usr/share/tpu/models/official/requirements.txt 

   TPU-Knoten

   (vm)$ pip3 install --user -r /usr/share/models/official/requirements.txt
   

9. Legen Sie die Cloud TPU-Namensvariable fest.

   TPU-VM

   (vm)$ export TPU_NAME=local
   

   TPU-Knoten

   (vm)$ export TPU_NAME=mask-rcnn-tutorial
   

10. Richten Sie die folgenden Umgebungsvariablen ein und ersetzen Sie bucket-name durch den Namen des Cloud Storage-Buckets, in dem das COCO-Dataset gespeichert ist:

    (vm)$ export STORAGE_BUCKET=gs://bucket-name
    

11. Fügen Sie Umgebungsvariablen für die Daten- und Modellverzeichnisse hinzu.

    (vm)$ export DATA_DIR=${STORAGE_BUCKET}/coco
    (vm)$ export MODEL_DIR=${STORAGE_BUCKET}/mask-rcnn
    

12. Fügen Sie einige zusätzliche erforderliche Umgebungsvariablen hinzu:

    (vm)$ export RESNET_CHECKPOINT=gs://cloud-tpu-checkpoints/retinanet/resnet50-checkpoint-2018-02-07
    (vm)$ export TRAIN_FILE_PATTERN=${DATA_DIR}/train-*
    (vm)$ export EVAL_FILE_PATTERN=${DATA_DIR}/val-*
    (vm)$ export VAL_JSON_FILE=${DATA_DIR}/instances_val2017.json
    

13. Legen Sie die Umgebungsvariable PYTHONPATH fest:

    TPU-VM

    (vm)$ export PYTHONPATH="${PYTHONPATH}:/usr/share/tpu/models"
    

    TPU-Knoten

    (vm)$ export PYTHONPATH="${PYTHONPATH}:/usr/share/models"
    

14. Wechseln Sie zum Verzeichnis, in dem sich das Modell befindet:

    TPU-VM

    (vm)$ cd /usr/share/tpu/models/official/vision
    

    TPU-Knoten

    (vm)$ cd /usr/share/models/official/legacy/detection
    

Das folgende Skript führt ein Beispieltraining aus, das für zehn Trainings- und zehn Bewertungsschritte trainiert wird. Die Ausführung auf einer v3-8-TPU dauert etwa 6 Minuten. Das Training zur Konvergenz dauert etwa 22.500 Schritte und ca. 6 Stunden auf einer v3-8-TPU.

1. Führen Sie den folgenden Befehl aus, um das Mask-RCNN-Modell zu trainieren:

   (vm)$ python3 train.py \
     --tpu=${TPU_NAME} \
     --experiment=maskrcnn_resnetfpn_coco \
     --mode=train_and_eval \
     --config_file=configs/experiments/maskrcnn/r50fpn_640_coco_scratch_tpu4x4.yaml \
     --model_dir=${MODEL_DIR} \
     --params_override="task.train_data.input_path=${TRAIN_FILE_PATTERN},task.validation_data.input_path=${EVAL_FILE_PATTERN},task.annotation_file=${VAL_JSON_FILE},runtime.distribution_strategy=tpu,trainer.train_steps=10,trainer.validation_steps=10,task.train_data.global_batch_size=8,task.validation_data.global_batch_size=8"
   

   Beschreibung der Befehls-Flags

   strategy_type

   Die Verteilungsstrategie.

   tpu

   Der Name Ihrer TPU.

   model_dir

   Gibt das Verzeichnis an, in dem während des Modelltrainings Prüfpunkte und Zusammenfassungen gespeichert werden. Wenn der Ordner fehlt, erstellt das Programm einen. Wenn eine Cloud TPU verwendet wird, muss model_direin Cloud Storage-Pfad sein (`gs://...`). Sie können einen vorhandenen Ordner wiederverwenden, um aktuelle Prüfpunktdaten zu laden und zusätzliche Prüfpunkte zu speichern, sofern die vorherigen Prüfpunkte mit TPU derselben Größe und TensorFlow-Version erstellt wurden.

   Wenn das Training abgeschlossen ist, wird eine Meldung wie diese angezeigt:

   {'frcnn_box_loss': 0.033865165,
    'frcnn_cls_loss': 1.2535654,
    'learning_rate': 0.008266499,
    'mask_loss': 1.2039567,
    'model_loss': 2.821458,
    'rpn_box_loss': 0.034982488,
    'rpn_score_loss': 0.2950886,
    'total_loss': 4.340171,
    'training_loss': 4.340171}
   train | step:     10 | steps/sec:    0.1 | output:
   {'frcnn_box_loss': 0.033865165,
    'frcnn_cls_loss': 1.2535654,
    'learning_rate': 0.008266499,
    'mask_loss': 1.2039567,
    'model_loss': 2.821458,
    'rpn_box_loss': 0.034982488,
    'rpn_score_loss': 0.2950886,
    'total_loss': 4.340171,
    'training_loss': 4.340171}
   

   Darauf folgt die Ausgabe der Bewertungsschritte.

   Sie haben jetzt das Training und die Bewertung für ein einzelnes Gerät abgeschlossen. Führen Sie die folgenden Schritte aus, um die aktuellen Ressourcen des TPU-Einzelgeräts zu löschen.

2. Trennen Sie die Verbindung zur Compute Engine-Instanz:

   (vm)$ exit
   

   Die Eingabeaufforderung sollte nun username@projectname lauten und angeben, dass Sie sich in Cloud Shell befinden.

3. Löschen Sie die TPU-Ressource.

   TPU-VM

   $ gcloud compute tpus tpu-vm delete mask-rcnn-tutorial \
   --zone=europe-west4-a
   

   Beschreibung der Befehls-Flags

   zone

   Die Zone, in der sich Ihre Cloud TPU befindet.

   TPU-Knoten

   $ gcloud compute tpus execution-groups delete mask-rcnn-tutorial \
   --tpu-only \
   --zone=europe-west4-a
   

   Beschreibung der Befehls-Flags

   tpu-only

   Löscht nur die Cloud TPU. Die VM bleibt verfügbar.

   zone

   Die Zone, in der die zu löschende TPU enthalten ist.

An dieser Stelle können Sie entweder diese Anleitung beenden und eine Bereinigung durchführen oder die Ausführung des Modells auf Cloud TPU Pods fortsetzen.

Modell mit Cloud TPU Pods skalieren

Wichtig: Sie können Ihr Modell entweder mit der TPU-VM- oder mit der TPU-Knotenkonfiguration skalieren. Die beiden VM-Architekturen werden unter Systemarchitektur beschrieben.

Wenn Sie das Modell mit { product_name_short }} Pods trainieren, sind möglicherweise einige Änderungen an Ihrem Trainingsskript erforderlich. Weitere Informationen finden Sie unter Training auf TPU-Pods.

TPU-Pod-Training

Wichtig: Wenn Sie bereits ein Cloud TPU-Projekt, ein Dienstkonto, einen Storage-Bucket und ein Dataset für das Training mit einem Einzelgerät eingerichtet haben, können Sie mit TPU-Ressourcen einrichten und starten fortfahren.

1. Öffnen Sie ein Cloud Shell-Fenster.

   Cloud Shell öffnen

2. Erstellen Sie eine Variable für Ihre Projekt-ID.

   export PROJECT_ID=project-id
   

3. Konfigurieren Sie die Google Cloud CLI so, dass sie das Projekt verwendet, in dem Sie Cloud TPU erstellen möchten.

   gcloud config set project ${PROJECT_ID}
   

   Wenn Sie diesen Befehl zum ersten Mal in einer neuen Cloud Shell-VM ausführen, wird die Seite Authorize Cloud Shell angezeigt. Klicken Sie unten auf der Seite auf Authorize, um gcloud zu erlauben, Google Cloud API-Aufrufe mit Ihren Anmeldedaten auszuführen.

4. Erstellen Sie ein Dienstkonto für das Cloud TPU-Projekt.

   Dienstkonten ermöglichen dem Cloud TPU-Dienst den Zugriff auf andere Google Cloud-Dienste.

   gcloud beta services identity create --service tpu.googleapis.com --project $PROJECT_ID
   

   Der Befehl gibt ein Cloud TPU-Dienstkonto im folgenden Format zurück:

   [e-mail]
   

5. Wenn Sie das COCO-Dataset bereits vorbereitet und in den Storage-Bucket verschoben haben, können Sie es für das Pod-Training wiederverwenden. Wenn Sie das COCO-Dataset noch nicht vorbereitet haben, bereiten Sie es jetzt vor und kehren Sie dann hierher zurück, um das Training einzurichten.

6. Cloud TPU-Pod starten

   In dieser Anleitung wird ein v3-32-Pod angegeben. Weitere Pod-Optionen finden Sie auf der Seite zu verfügbaren TPU-Typen.

   TPU-VM

   $ gcloud compute tpus tpu-vm create mask-rcnn-tutorial \
   --zone=europe-west4-a \
   --accelerator-type=v3-32 \
   --version=tpu-vm-tf-2.11.0-pod
   

   Beschreibung der Befehls-Flags

   zone

   Die Zone, in der Sie Ihre Cloud TPU erstellen möchten.

   accelerator-type

   Der Typ der zu erstellenden Cloud TPU.

   version

   Die Cloud TPU-Softwareversion.

   Hinweis: Beim erstmaligen Ausführen von gcloud für ein Projekt dauert es etwa 5 Minuten, bis alle Startprozesse wie die SSH-Schlüsselverbreitung und die API-Aktivierung abgeschlossen sind.

   TPU-Knoten

   (vm)$ gcloud compute tpus execution-groups create \
   --zone=europe-west4-a \
   --name=mask-rcnn-tutorial \
   --accelerator-type=v3-32  \
   --tf-version=2.11.0
   

   Beschreibung der Befehls-Flags

   zone

   Die Zone, in der Sie Ihre Cloud TPU erstellen möchten.

   tpu-only

   Erstellt nur die Cloud TPU. Standardmäßig erstellt der Befehl gcloud compute tpus execution-groups eine VM und eine Cloud TPU.

   accelerator-type

   Der Typ der zu erstellenden Cloud TPU.

   tf-version

   Die Version von TensorFlow gcloud wird auf der VM installiert.

7. Wenn Sie nicht automatisch bei der Compute Engine-Instanz angemeldet werden, melden Sie sich mit dem folgenden ssh-Befehl an. Wenn Sie bei der VM angemeldet sind, ändert sich die Shell-Eingabeaufforderung von username@projectname in username@vm-name:

   TPU-VM

   gcloud compute tpus tpu-vm ssh mask-rcnn-tutorial --zone=europe-west4-a
   

   TPU-Knoten

   gcloud compute ssh mask-rcnn-tutorial --zone=europe-west4-a
   

   Wichtiger Hinweis: Ab jetzt bedeutet das Präfix (vm)$, dass Sie den Befehl in der Compute Engine-VM-Instanz ausführen sollten.

8. Installieren Sie TensorFlow-Anforderungen.

   Der verwendete Befehl hängt davon ab, ob Sie TPU-VMs oder TPU-Knoten verwenden.

   TPU-VM

   (vm)$ pip3 install -r /usr/share/tpu/models/official/requirements.txt 

   TPU-Knoten

   (vm)$ pip3 install --user -r /usr/share/models/official/requirements.txt
   

9. Für das Trainingsskript ist ein zusätzliches Paket erforderlich. Installieren Sie es jetzt.

   (vm)$ pip3 install --user tensorflow-model-optimization>=0.1.3
   

10. Legen Sie die Cloud TPU-Namensvariable fest.

    (vm)$ export TPU_NAME=mask-rcnn-tutorial
    

11. Richten Sie die folgenden Umgebungsvariablen ein und ersetzen Sie bucket-name durch den Namen Ihres Cloud Storage-Buckets:

    (vm)$ export STORAGE_BUCKET=gs://bucket-name
    

12. Fügen Sie einige zusätzliche erforderliche Umgebungsvariablen hinzu:

    (vm)$ export RESNET_CHECKPOINT=gs://cloud-tpu-checkpoints/retinanet/resnet50-checkpoint-2018-02-07
    (vm)$ export DATA_DIR=${STORAGE_BUCKET}/coco
    (vm)$ export TRAIN_FILE_PATTERN=${DATA_DIR}/train-*
    (vm)$ export EVAL_FILE_PATTERN=${DATA_DIR}/val-*
    (vm)$ export VAL_JSON_FILE=${DATA_DIR}/instances_val2017.json
    (vm)$ export MODEL_DIR=${STORAGE_BUCKET}/mask-rcnn-pod
    

13. Legen Sie die Umgebungsvariable PYTHONPATH fest:

    TPU-VM

    (vm)$ export PYTHONPATH="/usr/share/tpu/models:${PYTHONPATH}"
    (vm)$ export TPU_LOAD_LIBRARY=0
    

    TPU-Knoten

    (vm)$ export PYTHONPATH="${PYTHONPATH}:/usr/share/models"
    

14. Wechseln Sie zum Verzeichnis, in dem sich das Modell befindet:

    TPU-VM

    (vm)$ cd /usr/share/tpu/models/official/vision

    TPU-Knoten

    (vm)$ cd /usr/share/models/official/legacy/detection

15. Modell trainieren

    Mit diesem Verfahren wird das Modell mit dem COCO-Dataset für 10 Trainingsschritte trainiert. Dieses Training dauert etwa 10 Minuten auf einer Cloud TPU v3-32.

    Hinweis: Nach dem Start können Sie prüfen, ob das Training ausgeführt wird. Überwachen Sie dazu die TPU-Aktivität in der Cloud TPU-Konsole. Klicken Sie in Compute Engine -> TPUs auf Ihren TPU-Eintrag. Eine Seite mit Ihren TPU-Konfigurationsdetails und einem Link zu MONITORING wird angezeigt. Klicken Sie auf MONITORING, um die aktuelle TPU-Aktivität aufzurufen.

    TPU-VM

    (vm)$ python3 train.py \
    --tpu=${TPU_NAME} \
    --experiment=maskrcnn_resnetfpn_coco \
    --mode=train_and_eval \
    --config_file=configs/experiments/maskrcnn/r50fpn_640_coco_scratch_tpu4x4.yaml \
    --model_dir=${MODEL_DIR} \
    --params_override="task.train_data.input_path=${TRAIN_FILE_PATTERN},task.validation_data.input_path=${EVAL_FILE_PATTERN},task.annotation_file=${VAL_JSON_FILE},runtime.distribution_strategy=tpu,trainer.train_steps=10,trainer.validation_steps=10,task.train_data.global_batch_size=256,task.validation_data.global_batch_size=256" 

    Beschreibung der Befehls-Flags

    tpu

    Der Name Ihrer TPU.

    model_dir

    Gibt das Verzeichnis an, in dem während des Modelltrainings Prüfpunkte und Zusammenfassungen gespeichert werden. Wenn der Ordner fehlt, erstellt das Programm einen. Wenn Sie eine Cloud TPU verwenden, muss model_dir ein Cloud Storage-Pfad (gs://...) sein. Sie können einen vorhandenen Ordner wiederverwenden, um aktuelle Prüfpunktdaten zu laden und zusätzliche Prüfpunkte zu speichern, solange die vorherigen Prüfpunkte mit Cloud TPU derselben Größe und TensorFlow-Version erstellt wurden.

    params_override

    Ein JSON-String, der Standardskriptparameter überschreibt.

    TPU-Knoten

    (vm)$ python3 main.py \
    --strategy_type=tpu \
    --tpu=${TPU_NAME} \
    --model_dir=${MODEL_DIR} \
    --mode=train \
    --model=mask_rcnn \
    --params_override="{train: { batch_size: 128, iterations_per_loop: 500, total_steps: 20, learning_rate: {'learning_rate_levels': [0.008, 0.0008], 'learning_rate_steps': [10000, 13000] }, checkpoint: { path: ${RESNET_CHECKPOINT}, prefix: resnet50/ }, train_file_pattern: ${TRAIN_FILE_PATTERN} }, eval: { val_json_file: ${VAL_JSON_FILE}, eval_file_pattern: ${EVAL_FILE_PATTERN}} }"

    Beschreibung der Befehls-Flags

    tpu

    Der Name Ihrer TPU.

    model_dir

    Gibt das Verzeichnis an, in dem während des Modelltrainings Prüfpunkte und Zusammenfassungen gespeichert werden. Wenn der Ordner fehlt, erstellt das Programm einen. Wenn Sie eine Cloud TPU verwenden, muss model_dir ein Cloud Storage-Pfad (gs://...) sein. Sie können einen vorhandenen Ordner wiederverwenden, um aktuelle Prüfpunktdaten zu laden und zusätzliche Prüfpunkte zu speichern, solange die vorherigen Prüfpunkte mit Cloud TPU derselben Größe und TensorFlow-Version erstellt wurden.

    params_override

    Ein JSON-String, der Standardskriptparameter überschreibt.

Wenn das Training abgeschlossen ist, wird eine Meldung wie diese angezeigt:

 I0706 19:47:16.108213 139955064548416 controller.py:457] train | step: 10 | steps/sec:    0.1 | output:
    {'frcnn_box_loss': 0.05632668,
     'frcnn_cls_loss': 1.3012192,
     'learning_rate': 0.008266499,
     'mask_loss': 1.2371812,
     'model_loss': 2.9746659,
     'rpn_box_loss': 0.08227444,
     'rpn_score_loss': 0.2976642,
     'total_loss': 4.493513,
     'training_loss': 4.493513}
train | step:     10 | steps/sec:    0.1 | output:
    {'frcnn_box_loss': 0.05632668,
     'frcnn_cls_loss': 1.3012192,
     'learning_rate': 0.008266499,
     'mask_loss': 1.2371812,
     'model_loss': 2.9746659,
     'rpn_box_loss': 0.08227444,
     'rpn_score_loss': 0.2976642,
     'total_loss': 4.493513,
     'training_loss': 4.493513}
 

Bereinigen

Damit Ihrem Google Cloud-Konto die in dieser Anleitung verwendeten Ressourcen nicht in Rechnung gestellt werden, löschen Sie entweder das Projekt, das die Ressourcen enthält, oder Sie behalten das Projekt und löschen die einzelnen Ressourcen.

Löschen Sie nach dem Training die TPU-VM und entfernen Sie den Storage-Bucket.

1. Trennen Sie die Verbindung zur Compute Engine-Instanz, sofern noch nicht geschehen:

   (vm)$ exit
   

   Die Eingabeaufforderung sollte nun username@projectname lauten und angeben, dass Sie sich in Cloud Shell befinden.

2. Löschen Sie Ihre Cloud TPU- und Compute Engine-Ressourcen. Der Befehl zum Löschen Ihrer Ressourcen hängt davon ab, ob Sie TPU-VMs oder TPU-Knoten verwenden. Weitere Informationen finden Sie unter Systemarchitektur.

   TPU-VM

   $ gcloud compute tpus tpu-vm delete mask-rcnn-tutorial \
   --zone=europe-west4-a
   

   TPU-Knoten

   $ gcloud compute tpus execution-groups delete mask-rcnn-tutorial \
   --zone=europe-west4-a
   

3. Prüfen Sie, ob die Ressourcen gelöscht wurden. Führen Sie dazu gcloud compute tpus execution-groups list aus. Der Löschvorgang kann einige Minuten dauern. Die Ausgabe des folgenden Befehls sollte keine der in dieser Anleitung erstellten TPU-Ressourcen enthalten:

   $ gcloud compute tpus execution-groups list --zone=europe-west4-a
   

4. Führen Sie gsutil wie angegeben aus und ersetzen Sie dabei bucket-name durch den Namen des Cloud Storage-Buckets, den Sie für diese Anleitung erstellt haben:

   $ gsutil rm -r gs://bucket-name
   

Nächste Schritte

In den Cloud TPU-Anleitungen von TensorFlow wird das Modell in der Regel mithilfe eines Beispiel-Datasets trainiert. Die Ergebnisse dieses Trainings können nicht für Inferenz verwendet werden. Wenn Sie ein Modell für Inferenz verwenden möchten, können Sie die Daten mit einem öffentlich verfügbaren Dataset oder Ihrem eigenen Dataset trainieren. TensorFlow-Modelle, die auf Cloud TPUs trainiert werden, benötigen im Allgemeinen Datasets im Format TFRecord.

Sie können das Beispiel für das Dataset-Konvertierungstool verwenden, um ein Bildklassifizierungs-Dataset in das TFRecord-Format zu konvertieren. Wenn Sie kein Bildklassifizierungsmodell verwenden, müssen Sie das Dataset selbst in das TFRecords-Format konvertieren. Weitere Informationen finden Sie unter TFRecord und tf.Example

Hyperparameter-Feinabstimmung

Sie können die Hyperparameter des Modells optimieren, um die Leistung des Modells mit Ihrem Dataset zu verbessern. Informationen zu Hyperparametern, die für alle TPU-unterstützten Modelle üblich sind, finden Sie auf GitHub. Informationen zu modellspezifischen Hyperparametern finden Sie im Quellcode für die einzelnen Modelle. Weitere Informationen zur Hyperparameter-Abstimmung finden Sie unter Übersicht über Hyperparameter-Abstimmung, Hyperparameter-Abstimmungsdienst und Hyperparameter abstimmen.

Inferenz

Sobald Ihr Modell trainiert ist, können Sie es für Inferenz (auch als Vorhersage bezeichnet) verwenden. AI Platform ist eine cloudbasierte Lösung, mit der Sie Modelle für maschinelles Lernen entwickeln, trainieren und bereitstellen können. Sobald ein Modell bereitgestellt wurde, können Sie den AI Platform Prediction-Dienst verwenden.

• TPU-Tools in TensorBoard