EfficientNet auf Cloud TPU trainieren (TF 2.x)

In dieser Anleitung erfahren Sie, wie Sie ein Keras EfficientNet-Modell auf Cloud TPU mit tf.distribute.TPUStrategy trainieren.

Wenn Sie nicht mit Cloud TPU vertraut sind, sollten Sie sich die quickstart durchlesen, um zu erfahren, wie Sie eine Cloud TPU und eine Compute Engine-VM erstellen.

Lernziele

Cloud Storage-Bucket zum Speichern der Dataset- und Modellausgabe erstellen
Bereiten Sie ein Imitaten-Dataset vor, das dem ImageNet-Dataset ähnlich ist.
Trainingsjob ausführen
Ausgabeergebnisse überprüfen

Kosten

In diesem Dokument verwenden Sie die folgenden kostenpflichtigen Komponenten von Google Cloud:

Compute Engine
Cloud TPU
Cloud Storage

Mit dem Preisrechner können Sie eine Kostenschätzung für Ihre voraussichtliche Nutzung vornehmen. Neuen Google Cloud-Nutzern steht möglicherweise eine kostenlose Testversion zur Verfügung.

Hinweise

Bevor Sie mit dieser Anleitung beginnen, prüfen Sie, ob Ihr Google Cloud-Projekt ordnungsgemäß eingerichtet ist.

Melden Sie sich bei Ihrem Google Cloud-Konto an. Wenn Sie mit Google Cloud noch nicht vertraut sind, erstellen Sie ein Konto, um die Leistungsfähigkeit unserer Produkte in der Praxis sehen und bewerten zu können. Neukunden erhalten außerdem ein Guthaben von 300 $, um Arbeitslasten auszuführen, zu testen und bereitzustellen.

Wählen Sie in der Google Cloud Console auf der Seite der Projektauswahl ein Google Cloud-Projekt aus oder erstellen Sie eines.

Zur Projektauswahl

Die Abrechnung für das Google Cloud-Projekt muss aktiviert sein.

Wählen Sie in der Google Cloud Console auf der Seite der Projektauswahl ein Google Cloud-Projekt aus oder erstellen Sie eines.

Zur Projektauswahl

Die Abrechnung für das Google Cloud-Projekt muss aktiviert sein.

In dieser Anleitung werden kostenpflichtige Komponenten der Google Cloud verwendet. Rufen Sie die Seite mit den Cloud TPU-Preisen auf, um Ihre Kosten abzuschätzen. Denken Sie daran, nicht mehr benötigte Ressourcen zu bereinigen, um unnötige Kosten zu vermeiden.

Cloud TPU-Training mit Einzelgerät

In diesem Abschnitt wird beschrieben, wie Sie Cloud TPU-Ressourcen konfigurieren und das EffizienteNet-Modell mit einem einzelnen Cloud TPU-Gerät trainieren.

Öffnen Sie ein Cloud Shell-Fenster.

Cloud Shell öffnen
Erstellen Sie eine Variable für Ihre Projekt-ID.
```
export PROJECT_ID=project-id
```
Konfigurieren Sie die Google Cloud CLI so, dass das Projekt verwendet wird, in dem Sie eine Cloud TPU erstellen möchten.
```
gcloud config set project ${PROJECT_ID}
```
Wenn Sie diesen Befehl zum ersten Mal in einer neuen Cloud Shell-VM ausführen, wird die Seite Authorize Cloud Shell angezeigt. Klicken Sie unten auf der Seite auf Authorize, damit gcloud API-Aufrufe mit Ihren Anmeldedaten ausführen kann.

Weitere Informationen zum gcloud-Befehl finden Sie in der gcloud-Referenz.
Erstellen Sie ein Dienstkonto für das Cloud TPU-Projekt.

Dienstkonten ermöglichen dem Cloud TPU-Dienst den Zugriff auf andere Google Cloud-Dienste.
```
gcloud beta services identity create --service tpu.googleapis.com --project $PROJECT_ID
```
Der Befehl gibt ein Cloud TPU-Dienstkonto im folgenden Format zurück:
```
service-PROJECT_NUMBER@cloud-tpu.iam.gserviceaccount.com
```
Exportieren Sie TPU-Einrichtungsvariablen.

Legen Sie die Zone fest, in der das Modell trainiert und die Trainingsdaten gespeichert werden.
```
$ export ZONE=europe-west4-a
```
Erstellen Sie mit dem folgenden Befehl einen Cloud Storage-Bucket:
```
gsutil mb -p ${PROJECT_ID} -c standard -l europe-west4 gs://bucket-name/
```
Dieser Cloud Storage-Bucket speichert die Daten, die Sie zum Trainieren Ihres Modells verwenden, und die Trainingsergebnisse. Mit dem in dieser Anleitung verwendeten gcloud compute tpus execution-groups-Befehl werden Standardberechtigungen für das Cloud TPU-Dienstkonto eingerichtet, das Sie im vorherigen Schritt eingerichtet haben. Wenn Sie detailliertere Berechtigungen benötigen, können Sie die Berechtigungen auf Zugriffsebene anpassen.

Der Bucket-Standort muss sich in derselben Region wie Ihre Compute Engine (VM) und Ihr Cloud TPU-Knoten befinden.
Dataset vorbereiten oder fake_imagenet verwenden

ImageNet ist eine Bilddatenbank. Die Bilder in der Datenbank sind hierarchisch angeordnet, wobei jeder Knoten der Hierarchie durch Hunderte und Tausende von Bildern dargestellt wird.

In dieser Anleitung wird eine Demoversion des vollständigen ImageNet-Datasets verwendet, die als fake_imagenet bezeichnet wird. Wenn Sie die Anleitung mit dieser Demoversionen durcharbeiten, können Sie den Speicher- und Zeitaufwand reduzieren, der normalerweise mit dem Ausführen eines Modells für die gesamte ImageNet-Datenbank verbunden ist.

Das Dataset "fake_imagenet" befindet sich an diesem Speicherort in Cloud Storage:
```
gs://cloud-tpu-test-datasets/fake_imagenet
```
Das Dataset "fake_imagenet" dient nur zum Verständnis, wie eine Cloud TPU verwendet wird und wie die End-to-End-Leistung validiert wird. Die Genauigkeitszahlen und das gespeicherte Modell sind nicht aussagekräftig.

Wenn Sie das vollständige ImageNet-Dataset verwenden möchten, lesen Sie die Informationen unter ImageNet-Dataset herunterladen, vorverarbeiten und hochladen.

Vorsicht: Für diese Anleitung dürfen Sie die Umgebungsvariable STORAGE_BUCKET nicht auf den Pfad des Datasets "fake_imagenet" festlegen. Sie können zwar aus gs://cloud-tpu-test-datasets lesen, aber nicht darin schreiben. Daher können Sie dort keine Trainingslogs erstellen. Die Umgebungsvariable STORAGE_BUCKET muss auf Ihren eigenen Cloud Storage-Bucket festgelegt sein, wie oben gezeigt.
Starten Sie TPU-Ressourcen mit dem Befehl gcloud. Der verwendete Befehl hängt davon ab, ob Sie TPU-VMs oder TPU-Knoten verwenden. Weitere Informationen zu beiden VM-Architekturen finden Sie unter Systemarchitektur.
TPU-VM
```
$ gcloud compute tpus tpu-vm create efficientnet-tutorial \
--zone=${ZONE} \
--accelerator-type=v3-8 \
--version=tpu-vm-tf-2.16.1-pjrt
```
Beschreibung der Befehls-Flags

zone

Die Zone, in der Sie Ihre Cloud TPU erstellen möchten.

accelerator-type

Der Beschleunigertyp gibt die Version und Größe der Cloud TPU an, die Sie erstellen möchten. Weitere Informationen zu unterstützten Beschleunigertypen für die einzelnen TPU-Versionen finden Sie unter TPU-Versionen.

version

Die Cloud TPU-Softwareversion.
TPU-Knoten
```
gcloud compute tpus execution-groups create \
--name=efficientnet-tutorial \
--zone=${ZONE} \
--disk-size=300 \
--machine-type=n1-standard-16 \
--tf-version=2.12.0 \
--accelerator-type=v3-8
```
Beschreibung der Befehls-Flags

project

Ihre Google Cloud-Projekt-ID

name

Der Name der zu erstellenden Cloud TPU.

zone

Die Zone, in der Sie Ihre Cloud TPU erstellen möchten.

disk-size

Die Größe der Festplatte in GB der mit dem Befehl gcloud erstellten VM.

machine-type

Der Maschinentyp der Compute Engine-VM, die erstellt werden soll.

tf-version

Die TensorFlow-Version gcloud wird auf der VM installiert.

accelerator-type

Der Typ der zu erstellenden Cloud TPU.
Hinweis: Wenn Sie mehrere Projekte haben, müssen Sie die Projekt-ID mit dem Flag --project angeben.

Weitere Informationen zum gcloud-Befehl finden Sie in der gcloud-Referenz.

Hinweis: Beim ersten Ausführen von gcloud compute tpus tpu-vm oder gcloud compute tpus ausreichend Execution-groups für ein Projekt dauert es ungefähr 5 Minuten, bis alle Startaufgaben wie die SSH-Schlüsselweitergabe und die API-Aktivierung abgeschlossen sind.
Wenn Sie nicht automatisch bei der Compute Engine-Instanz angemeldet werden, melden Sie sich mit dem folgenden ssh-Befehl an. Wenn Sie bei der VM angemeldet sind, ändert sich die Shell-Eingabeaufforderung von username@projectname in username@vm-name:
TPU-VM
```
gcloud compute tpus tpu-vm ssh efficientnet-tutorial --zone=${ZONE}
```
TPU-Knoten
```
gcloud compute ssh efficientnet-tutorial --zone=${ZONE}
```
Wichtiger Hinweis: Ab jetzt bedeutet das Präfix (vm)$, dass Sie den Befehl in der Compute Engine-VM-Instanz ausführen sollten.

Legen Sie die Cloud TPU-Namensvariable fest.

TPU-VM

(vm)$ export TPU_NAME=local

TPU-Knoten

(vm)$ export TPU_NAME=efficientnet-tutorial

Cloud Storage-Bucket-Variablen festlegen

Ersetzen Sie bucket-name durch den Namen des Cloud Storage-Buckets:
```
(vm)$ export STORAGE_BUCKET=gs://bucket-name
```
```
(vm)$ export MODEL_DIR=${STORAGE_BUCKET}/efficientnet-2x
(vm)$ export DATA_DIR=gs://cloud-tpu-test-datasets/fake_imagenet
```
Die Trainingsanwendung erwartet, dass Ihre Trainingsdaten in Cloud Storage verfügbar sind. Die Trainingsanwendung verwendet auch Ihren Cloud Storage-Bucket, um während des Trainings Prüfpunkte zu speichern.
Wenn Sie beim Erstellen Ihrer TPU den Parameter --version auf eine Version festlegen, die auf -pjrt endet, legen Sie die folgenden Umgebungsvariablen fest, um die PJRT-Laufzeit zu aktivieren:
```
  (vm)$ export NEXT_PLUGGABLE_DEVICE_USE_C_API=true
  (vm)$ export TF_PLUGGABLE_DEVICE_LIBRARY_PATH=/lib/libtpu.so
```

Installieren Sie TensorFlow-Anforderungen.

Der verwendete Befehl hängt davon ab, ob Sie TPU-VMs oder TPU-Knoten verwenden.

TPU-VM

(vm)$ pip3 install -r /usr/share/tpu/models/official/requirements.txt

TPU-Knoten

(vm)$ pip3 install --user -r /usr/share/models/official/requirements.txt

Das Trainingsskript EfficientNet erfordert zusätzliche Pakete (nur TPU-VM). Installieren Sie diese jetzt:
TPU-VM
```
(vm)$ sudo pip3 install tensorflow-addons
(vm)$ sudo pip3 install tensorflow-model-optimization>=0.1.3
```
Legen Sie erforderliche Umgebungsvariablen fest:
TPU-VM
```
(vm)$ export PYTHONPATH="${PYTHONPATH}:/usr/share/tpu/models"
```
TPU-Knoten
```
(vm)$ export PYTHONPATH="${PYTHONPATH}:/usr/share/models"
```
Das EfficientNet-Modell ist auf Ihrer Compute Engine-VM vorinstalliert.

Wechseln Sie zum Verzeichnis, in dem sich das Modell befindet:

TPU-VM

(vm)$ cd /usr/share/tpu/models/official/legacy/image_classification

TPU-Knoten

(vm)$ cd /usr/share/models/official/legacy/image_classification

Modell trainieren Dies verwendet ein fake_imagenet-Dataset und trainiert EfficientNet für eine Epoche.
```
(vm)$ python3 classifier_trainer.py \
  --mode=train_and_eval \
  --model_type=efficientnet \
  --dataset=imagenet \
  --tpu=${TPU_NAME} \
  --data_dir=${DATA_DIR} \
  --model_dir=${MODEL_DIR} \
  --config_file=configs/examples/efficientnet/imagenet/efficientnet-b0-tpu.yaml \
  --params_override="train.epochs=1, train_dataset.builder=records, validation_dataset.builder=records"
```
Beschreibung der Befehls-Flags

mode

Entweder train, eval oder train_and_eval.

model_type

Der Typ des Modells. Beispiel: efficientnet.

dataset

Der Name des Datasets. Beispiel: imagenet.

tpu

Der Name der Cloud TPU, um das Training oder die Bewertung auszuführen.

data_dir

Gibt den Cloud Storage-Pfad für die Trainingseingabe an. In diesem Beispiel ist er auf das Dataset "fake_imagenet" festgelegt.

model_dir

Der Cloud Storage-Pfad, in dem während des Modelltrainings Prüfpunkte und Zusammenfassungen gespeichert werden. Sie können einen vorhandenen Ordner wiederverwenden, um zuvor generierte Prüfpunkte zu laden und zusätzliche Prüfpunkte zu speichern, sofern die vorherigen Prüfpunkte mit einer Cloud TPU derselben Größe und TensorFlow-Version erstellt wurden.

config_file

Der Pfad zur JSON-Datei, die das vortrainierte Modell EfficientNet enthält. Diese Datei enthält die Modellarchitektur.

params_override

Ein JSON-String, der Standardskriptparameter überschreibt. Weitere Informationen zu Skriptparametern finden Sie unter /usr/share/models/official/legacy/detection/main.py.

Dies führt zu einer Trainingsphase von EfficientNet für eine Epoche und wird in ungefähr 40 Minuten auf einem v3-8-Cloud-TPU-Knoten abgeschlossen. Nach Abschluss des Trainingsskripts sieht die Ausgabe in etwa so aus:
```
Run stats:
{
  'accuracy_top_1': 0.0010172526817768812,
  'eval_loss': 7.104171276092529,
  'loss': 7.113735675811768,
  'training_accuracy_top_1': 0.0009773431811481714,
  'step_timestamp_log': [
    'BatchTimestamp<batch_index: 0,
    timestamp: 1604960724.2224622>',
    'BatchTimestamp<batch_index: 1251,
    timestamp: 1604961281.3745298>'
  ],
  'train_finish_time': 1604961342.6359076,
  'avg_exp_per_second': 2071.493269569079
}
```
Führen Sie EfficientNet 90 Epochen lang aus, wie im folgenden Skript gezeigt, um das Training bis zur Konvergenz mit dem ImageNet-Dataset auszuführen. Training und Bewertung werden gemeinsam durchgeführt. Jede Epoche umfasst 1251 Schritte für insgesamt 112590 Trainingsschritte und 48 Bewertungsschritte.
```
(vm)$ python3 classifier_trainer.py \
     --mode=train_and_eval \
     --model_type=efficientnet \
     --dataset=imagenet \
     --tpu=${TPU_NAME} \
     --data_dir=${DATA_DIR} \
     --model_dir=${MODEL_DIR} \
     --config_file=configs/examples/efficientnet/imagenet/efficientnet-b0-tpu.yaml \
     --params_override="train_dataset.builder=records, validation_dataset.builder=records"
```
Beschreibung der Befehls-Flags

mode

Entweder train, eval oder train_and_eval.

model_type

Der Typ des Modells. Zum Beispiel efficientnet usw.

dataset

Der Name des Datasets. Beispiel: imagenet.

tpu

Der Name der Cloud TPU zum Ausführen des Trainings oder der Bewertung.

data_dir

Gibt den Cloud Storage-Pfad für die Trainingseingabe an. In diesem Beispiel ist er auf das Dataset "fake_imagenet" festgelegt.

model_dir

Der Cloud Storage-Pfad, in dem während des Modelltrainings Prüfpunkte und Zusammenfassungen gespeichert werden. Sie können einen vorhandenen Ordner wiederverwenden, um zuvor generierte Prüfpunkte zu laden und zusätzliche Prüfpunkte zu speichern, sofern die vorherigen Prüfpunkte mit einer Cloud TPU derselben Größe und TensorFlow-Version erstellt wurden.

config_file

Der Pfad zur JSON-Datei, die das vortrainierte Modell EfficientNet enthält. Diese Datei enthält die Modellarchitektur.

params_override

Ein JSON-String, der Standardskriptparameter überschreibt. Weitere Informationen zu Skriptparametern finden Sie unter /usr/share/models/official/legacy/detection/main.py.

Da das Dataset "fake_imagenet" für das Training verwendet wurde, weichen die Ergebnisse von der tatsächlichen Ausgabe ab, die Sie bei Ausführung des Trainings mit einem echten Dataset erhalten hätten.

Sie haben jetzt das Einzelgerät-Training abgeschlossen. Führen Sie die folgenden Schritte aus, um die aktuellen Ressourcen des TPU-Einzelgeräts zu löschen.
Trennen Sie die Verbindung zur Compute Engine-Instanz:
```
(vm)$ exit
```
Die Eingabeaufforderung sollte nun username@projectname lauten und angeben, dass Sie sich in Cloud Shell befinden.
Löschen Sie die TPU-Ressource.
TPU-VM
```
$ gcloud compute tpus tpu-vm delete efficientnet-tutorial \
--zone=${ZONE}
```
Beschreibung der Befehls-Flags

zone

Die Zone, in der sich Ihre Cloud TPU befindet.
TPU-Knoten
```
$ gcloud compute tpus execution-groups delete efficientnet-tutorial \
--tpu-only \
--zone=${ZONE}
```
Beschreibung der Befehls-Flags

tpu-only

Löscht nur die Cloud TPU. Die VM bleibt verfügbar.

zone

Die Zone, in der die zu löschende TPU enthalten ist.

An dieser Stelle können Sie entweder diese Anleitung beenden und eine Bereinigung durchführen oder die Ausführung des Modells auf Cloud TPU Pods fortsetzen.

Modell mit Cloud TPU Pods skalieren

oder TPU-Knoten.

Wenn Sie das Modell auf Cloud TPU-Pods trainieren, sind möglicherweise einige Änderungen am Trainingsskript erforderlich. Weitere Informationen finden Sie unter Training auf TPU-Pods.

Auf Cloud TPU Pod trainieren

Dieser Abschnitt enthält Informationen zum Einrichten eines Cloud Storage-Buckets und von Cloud TPU-Ressourcen für das Pod-Training.

Öffnen Sie ein Cloud Shell-Fenster.

Cloud Shell öffnen
Erstellen Sie eine Variable für Ihre Projekt-ID.
```
export PROJECT_ID=project-id
```
Konfigurieren Sie die Google Cloud CLI so, dass das Projekt verwendet wird, in dem Sie eine Cloud TPU erstellen möchten.
```
gcloud config set project ${PROJECT_ID}
```
Wenn Sie diesen Befehl zum ersten Mal in einer neuen Cloud Shell-VM ausführen, wird die Seite Authorize Cloud Shell angezeigt. Klicken Sie unten auf der Seite auf Authorize, um gcloud das Ausführen von Google Cloud API-Aufrufen mit Ihren Anmeldedaten zu erlauben.
Erstellen Sie ein Dienstkonto für das Cloud TPU-Projekt.

Dienstkonten ermöglichen dem Cloud TPU-Dienst den Zugriff auf andere Google Cloud-Dienste.
```
gcloud beta services identity create --service tpu.googleapis.com --project $PROJECT_ID
```
Der Befehl gibt ein Cloud TPU-Dienstkonto im folgenden Format zurück:
```
service-PROJECT_NUMBER@cloud-tpu.iam.gserviceaccount.com
```
Erstellen Sie mit dem folgenden Befehl einen Cloud Storage-Bucket oder verwenden Sie einen Bucket, den Sie zuvor für Ihr Projekt erstellt haben:
```
gsutil mb -p ${PROJECT_ID} -c standard -l europe-west4 gs://bucket-name
```
Dieser Cloud Storage-Bucket speichert die Daten, die Sie zum Trainieren Ihres Modells verwenden, und die Trainingsergebnisse. Mit dem in dieser Anleitung verwendeten gcloud-Befehl werden Standardberechtigungen für das Cloud TPU-Dienstkonto eingerichtet, das Sie im vorherigen Schritt eingerichtet haben. Wenn Sie genauere Berechtigungen benötigen, können Sie die Berechtigungen auf Zugriffsebene anpassen.

Der Bucket-Standort muss sich in derselben Region wie die TPU-Ressourcen befinden.
Exportieren Sie TPU-Einrichtungsvariablen.

Legen Sie die Zone fest, in der das Modell trainiert und die Trainingsdaten gespeichert werden.
```
$ export ZONE=europe-west4-a
```
Dataset vorbereiten oder fake_imagenet verwenden

ImageNet ist eine Bilddatenbank. Die Bilder in der Datenbank sind hierarchisch angeordnet, wobei jeder Knoten der Hierarchie durch Hunderte und Tausende von Bildern dargestellt wird.

Das standardmäßige Pod-Training greift auf eine Demoversion des vollständigen ImageNet-Datasets zu, die als fake_imagenet bezeichnet wird. Mit dieser Demoversion können Sie das Pod-Training testen und gleichzeitig den Speicher- und Zeitaufwand reduzieren, der normalerweise mit dem Trainieren eines Modells für die gesamte ImageNet-Datenbank verbunden ist.

Das Dataset "fake_imagenet" dient nur zum Verständnis, wie eine Cloud TPU verwendet wird und wie die End-to-End-Leistung validiert wird. Die Genauigkeitszahlen und das gespeicherte Modell sind nicht aussagekräftig.

Wenn Sie das vollständige ImageNet-Dataset verwenden möchten, lesen Sie die Informationen unter ImageNet-Dataset herunterladen, vorverarbeiten und hochladen.

Vorsicht: Die Umgebungsvariable STORAGE_BUCKET sollte nicht auf den Pfad des Datasets "fake_imagenet" festgelegt sein. Sie können zwar aus gs://cloud-tpu-test-datasets lesen, aber nicht darin schreiben. Daher können Sie damit keine Trainings-Logs erstellen. Die Umgebungsvariable STORAGE_BUCKET muss auf Ihren eigenen Cloud Storage-Bucket festgelegt sein.
Starten Sie Ihre Cloud TPU-Ressourcen mit dem gcloud-Befehl.

Der verwendete Befehl hängt davon ab, ob Sie eine TPU-VM oder einen TPU-Knoten verwenden. Weitere Informationen zu beiden VM-Architekturen finden Sie unter Systemarchitektur. Weitere Informationen zum Befehl gcloud finden Sie in der gcloud-Referenz. In dieser Anleitung wird ein v3-32-Pod angegeben. Weitere Pod-Optionen finden Sie unter TPU-Versionen.
TPU-VM
Hinweis: Wenn derzeit nicht genügend Kapazität zum Erstellen des TPU-Pod verfügbar ist, können Sie Ihre Anfrage mithilfe von Ressourcen in der Warteschlange in die Warteschlange stellen. Mit Ressourcen in der Warteschlange können Sie Kapazität erhalten, sobald sie verfügbar ist. Verwenden Sie stattdessen den Befehl gcloud alpha compute tpus queued-resources create, um Ihre Cloud TPU-Ressourcen als Ressourcen in der Warteschlange anzufordern. Weitere Informationen finden Sie unter Ressourcen in der Warteschlange verwalten.
```
$ gcloud compute tpus tpu-vm create efficientnet-tutorial \
  --zone=${ZONE} \
  --accelerator-type=v3-32 \
  --version=tpu-vm-tf-2.16.1-pod-pjrt
```
Beschreibung der Befehls-Flags

zone

Die Zone, in der Sie Ihre Cloud TPU erstellen möchten.

accelerator-type

Der Beschleunigertyp gibt die Version und Größe der Cloud TPU an, die Sie erstellen möchten. Weitere Informationen zu unterstützten Beschleunigertypen für die einzelnen TPU-Versionen finden Sie unter TPU-Versionen.

version

Die Cloud TPU-Softwareversion.

Hinweis: Beim erstmaligen Ausführen von gcloud für ein Projekt dauert es etwa 5 Minuten, bis alle Startprozesse wie die SSH-Schlüsselverbreitung und die API-Aktivierung abgeschlossen sind.
TPU-Knoten
```
(vm)$ gcloud compute tpus execution-groups  create --name=efficientnet-tutorial \
 --accelerator-type=v3-32  \
 --zone=${ZONE} \
 --tf-version=2.12.0
```
Beschreibung der Befehls-Flags

name

Der Name der zu erstellenden Cloud TPU.

accelerator-type

Der Typ der zu erstellenden Cloud TPU.

zone

Die Zone, in der Sie Ihre Cloud TPU erstellen möchten.

tf-version

Die TensorFlow-Version gcloud wird auf der VM installiert.

tpu-only

Erstellen Sie nur eine Cloud TPU. Standardmäßig werden mit dem Befehl gcloud eine VM und eine Cloud TPU erstellt.

Hinweis: Beim erstmaligen Ausführen von gcloud für ein Projekt dauert es etwa 5 Minuten, bis alle Startprozesse wie die SSH-Schlüsselverbreitung und die API-Aktivierung abgeschlossen sind.
Wenn Sie nicht automatisch bei der Compute Engine-Instanz angemeldet werden, melden Sie sich mit dem folgenden ssh-Befehl an. Wenn Sie bei der VM angemeldet sind, ändert sich die Shell-Eingabeaufforderung von username@projectname in username@vm-name:
TPU-VM
```
$ gcloud compute tpus tpu-vm ssh efficientnet-tutorial --zone=${ZONE}
```
TPU-Knoten
```
$ gcloud compute ssh efficientnet-tutorial --zone=${ZONE}
```
Wichtiger Hinweis: Ab jetzt bedeutet das Präfix (vm)$, dass Sie den Befehl in der Compute Engine-VM-Instanz ausführen sollten.

Führen Sie im weiteren Verlauf dieser Anleitung jeden Befehl, der mit (vm)$ beginnt, in Ihrem VM-Sitzungsfenster aus.
Exportieren Sie TPU-Einrichtungsvariablen:
```
(vm)$ export STORAGE_BUCKET=gs://bucket-name
```
```
(vm)$ export TPU_NAME=efficientnet-tutorial
(vm)$ export DATA_DIR=gs://cloud-tpu-test-datasets/fake_imagenet
(vm)$ export MODEL_DIR=${STORAGE_BUCKET}/efficientnet-2x-pod
```
Die Trainingsanwendung erwartet, dass Ihre Trainingsdaten in Cloud Storage verfügbar sind. Die Trainingsanwendung verwendet auch Ihren Cloud Storage-Bucket, um während des Trainings Prüfpunkte zu speichern.

Installieren Sie TensorFlow-Anforderungen.

TPU-VM

(vm)$ pip3 install -r /usr/share/tpu/models/official/requirements.txt

TPU-Knoten

(vm)$ pip3 install -r /usr/share/models/official/requirements.txt

Legen Sie erforderliche Umgebungsvariablen fest:

TPU-VM

(vm)$ export PYTHONPATH="/usr/share/tpu/models:${PYTHONPATH}"
(vm)$ export TPU_LOAD_LIBRARY=0

TPU-Knoten

(vm)$ export PYTHONPATH="${PYTHONPATH}:/usr/share/models"

Das EfficientNet-Modell ist auf Ihrer Compute Engine-VM vorinstalliert.

Wechseln Sie zum Verzeichnis, in dem sich das Modell befindet:

TPU-VM

(vm)$ cd /usr/share/tpu/models/official/legacy/image_classification/

TPU-Knoten

(vm)$ cd /usr/share/models/official/legacy/image_classification/

Modell trainieren
```
(vm)$ python3 classifier_trainer.py \
--mode=train_and_eval \
--model_type=efficientnet \
--dataset=imagenet \
--tpu=${TPU_NAME} \
--data_dir=${DATA_DIR} \
--model_dir=${MODEL_DIR} \
--config_file=configs/examples/efficientnet/imagenet/efficientnet-b0-tpu.yaml \
--params_override="train.epochs=1, train_dataset.builder=records, validation_dataset.builder=records"
```
Beschreibung der Befehls-Flags

mode

Wenn train_and_eval festgelegt ist, wird dieses Modell trainiert und bewertet. Wenn dieses Skript auf export_only gesetzt ist, exportiert es ein gespeichertes Modell.

model_type

Der Typ des Modells. Zum Beispiel efficientnet usw.

dataset

Der Name des Datasets. Beispiel: imagenet.

tpu

Verwendet den in der Variablen TPU_NAME angegebenen Namen.

data_dir

Gibt den Cloud Storage-Pfad für die Trainingseingabe an. In diesem Beispiel ist er auf das Dataset "fake_imagenet" festgelegt.

model_dir

Der Cloud Storage-Pfad, in dem während des Modelltrainings Prüfpunkte und Zusammenfassungen gespeichert werden. Sie können einen vorhandenen Ordner wiederverwenden, um zuvor generierte Prüfpunkte zu laden und zusätzliche Prüfpunkte zu speichern, sofern die vorherigen Prüfpunkte mit einer Cloud TPU derselben Größe und TensorFlow-Version erstellt wurden.

config_file

Der Pfad zur JSON-Datei, die das vortrainierte Modell EfficientNet enthält. Diese Datei enthält die Modellarchitektur.

params_override

Ein JSON-String, der Standardskriptparameter überschreibt. Weitere Informationen zu Skriptparametern finden Sie unter /usr/share/models/official/legacy/detection/main.py.

Mit dem Verfahren wird das Modell für das fake_imagenet-Dataset auf eine Epoche (insgesamt 312 Trainingsschritte und 12 Bewertungsschritte) trainiert. Dieses Training dauert bei einer v3-32 Cloud TPU etwa 2 Minuten. Wenn das Training und die Bewertung abgeschlossen ist, wird eine Meldung wie die folgende angezeigt:

Run stats:
{
  'accuracy_top_1': 0.0009969075908884406,
  'eval_loss': 7.105168342590332,
  'loss': 7.114983081817627,
  'training_accuracy_top_1': 0.0010031675919890404,
  'step_timestamp_log': [
    'BatchTimestamp<batch_index: 0,
    timestamp: 1605041621.4997303>',
    'BatchTimestamp<batch_index: 312,
    timestamp: 1605041970.8633356>'
  ],
  'train_finish_time': 1605042032.2274444,
  'avg_exp_per_second': 3111.5120716536226
}

Bereinigen

Damit Ihrem Google Cloud-Konto die in dieser Anleitung verwendeten Ressourcen nicht in Rechnung gestellt werden, löschen Sie entweder das Projekt, das die Ressourcen enthält, oder Sie behalten das Projekt und löschen die einzelnen Ressourcen.

Trennen Sie die Verbindung zur Compute Engine-Instanz, sofern noch nicht geschehen:
```
(vm)$ exit
```
Die Eingabeaufforderung sollte nun username@projectname lauten und angeben, dass Sie sich in Cloud Shell befinden.

Löschen Sie Ihre Cloud TPU- und Compute Engine-Ressourcen.

TPU-VM

$ gcloud compute tpus tpu-vm delete efficientnet-tutorial \
--zone=${ZONE}

TPU-Knoten

$ gcloud compute tpus execution-groups delete efficientnet-tutorial \
--zone=${ZONE}

Prüfen Sie, ob die Ressourcen gelöscht wurden. Führen Sie dazu gcloud compute tpus execution-groups list aus. Der Löschvorgang kann einige Minuten dauern. Die Ausgabe des folgenden Befehls sollte keine der in dieser Anleitung erstellten TPU-Ressourcen enthalten:
```
$ gcloud compute tpus execution-groups list --zone=${ZONE}
```
Löschen Sie Ihren Cloud Storage-Bucket wie unten gezeigt mit gsutil. Ersetzen Sie bucket-name durch den Namen des Cloud Storage-Buckets.
```
$ gsutil rm -r gs://bucket-name
```

Nächste Schritte

In den Cloud TPU-Anleitungen von TensorFlow wird das Modell in der Regel mithilfe eines Beispiel-Datasets trainiert. Die Ergebnisse dieses Trainings sind nicht für Inferenzen verwendbar. Wenn Sie ein Modell für die Inferenz verwenden möchten, können Sie die Daten mit einem öffentlich verfügbaren Dataset oder Ihrem eigenen Dataset trainieren. Für TensorFlow-Modelle, die auf Cloud TPUs trainiert wurden, müssen im Allgemeinen Datasets im TFRecord-Format erforderlich sein.

Mit dem Beispiel für das Dataset-Konvertierungstool können Sie ein Bildklassifizierungs-Dataset in das TFRecord-Format konvertieren. Wenn Sie kein Bildklassifizierungsmodell verwenden, müssen Sie das Dataset selbst in das TFRecord-Format konvertieren. Weitere Informationen finden Sie unter TFRecord und tf.Example.

Hyperparameter-Feinabstimmung

Sie können die Hyperparameter des Modells abstimmen, um die Leistung des Modells mit Ihrem Dataset zu verbessern. Informationen zu den Hyperparametern, die alle von der TPU unterstützten Modelle gemeinsam sind, finden Sie auf GitHub. Informationen zu modellspezifischen Hyperparametern finden Sie im Quellcode des jeweiligen Modells. Weitere Informationen zur Abstimmung von Hyperparametern finden Sie unter Übersicht über die Abstimmung von Hyperparametern und Hyperparameter abstimmen.

Inferenz

Nachdem Sie Ihr Modell trainiert haben, können Sie es für Inferenzen (auch Vorhersage genannt) verwenden. Mit dem Cloud TPU-Inferenzkonverter-Tool können Sie ein TensorFlow-Modell für die Inferenz in Cloud TPU v5e vorbereiten und optimieren. Weitere Informationen zur Inferenz in Cloud TPU v5e finden Sie unter Einführung in Cloud TPU v5e-Inferenz.

In der Anleitung zur Dataset-Konvertierung erfahren Sie, wie Sie mit Ihren eigenen Daten anstelle der Datasets "fake_imagenet" oder "ImageNet" trainieren und auswerten. In dieser Anleitung wird erläutert, wie Sie mit dem Skript-Beispiel für die Konvertierung von Bildklassifizierungsdaten ein Rohdataset für die Bildklassifizierung in das von Cloud TPU Tensorflow-Modellen verwendete TFRecord-Format konvertieren.
Führen Sie eine Cloud TPU colab aus, die zeigt, wie Sie ein Bildklassifizierungsmodell mit Ihren eigenen Bilddaten ausführen.
Andere Cloud TPU-Anleitungen ansehen.
TPU-Monitoring-Tools in TensorBoard verwenden

EfficientNet auf Cloud TPU trainieren (TF 2.x)

Lernziele

Kosten

Hinweise

Cloud TPU-Training mit Einzelgerät

TPU-VM

Beschreibung der Befehls-Flags

TPU-Knoten

Beschreibung der Befehls-Flags

TPU-VM

TPU-Knoten

TPU-VM

TPU-Knoten

TPU-VM

TPU-Knoten

TPU-VM

TPU-VM

TPU-Knoten

TPU-VM

TPU-Knoten

Beschreibung der Befehls-Flags

Beschreibung der Befehls-Flags

TPU-VM

Beschreibung der Befehls-Flags

TPU-Knoten

Beschreibung der Befehls-Flags

Modell mit Cloud TPU Pods skalieren

Auf Cloud TPU Pod trainieren

TPU-VM

Beschreibung der Befehls-Flags

TPU-Knoten

Beschreibung der Befehls-Flags

TPU-VM

TPU-Knoten

TPU-VM

TPU-Knoten

TPU-VM

TPU-Knoten

TPU-VM

TPU-Knoten

Beschreibung der Befehls-Flags

Bereinigen

TPU-VM

TPU-Knoten

Nächste Schritte

Hyperparameter-Feinabstimmung

Inferenz