このチュートリアルのモデルは、残余ネットワーク(ResNet)アーキテクチャを最初に導入する画像認識のためのディープ残余ラーニングに基づいています。このチュートリアルでは、50 層のバリアントの ResNet-50 を使用して、TPUEstimator を使ったモデルのトレーニング方法を説明します。 ResNet-50 モデルは、Compute Engine VM にプリインストールされています。
目標
- データセットとモデルの出力を格納する Cloud Storage バケットを作成します。
- fake_imagenet データセットと呼ばれる ImageNet データセットのテスト版を準備します。
- トレーニング ジョブを実行します。
- 出力結果を確認します。
費用
このチュートリアルでは、課金対象である次の Google Cloud コンポーネントを使用します。
- Compute Engine
- Cloud TPU
- Cloud Storage
料金計算ツールを使うと、予想使用量に基づいて費用の見積もりを生成できます。
始める前に
このチュートリアルを開始する前に、Google Cloud プロジェクトが正しく設定されていることを確認します。
- Google Cloud アカウントにログインします。Google Cloud を初めて使用する場合は、アカウントを作成して、実際のシナリオでの Google プロダクトのパフォーマンスを評価してください。新規のお客様には、ワークロードの実行、テスト、デプロイができる無料クレジット $300 分を差し上げます。
-
Google Cloud Console の [プロジェクト セレクタ] ページで、Google Cloud プロジェクトを選択または作成します。
-
Cloud プロジェクトに対して課金が有効になっていることを確認します。詳しくは、プロジェクトで課金が有効になっているかどうかを確認する方法をご覧ください。
-
Google Cloud Console の [プロジェクト セレクタ] ページで、Google Cloud プロジェクトを選択または作成します。
-
Cloud プロジェクトに対して課金が有効になっていることを確認します。詳しくは、プロジェクトで課金が有効になっているかどうかを確認する方法をご覧ください。
このチュートリアルでは、Google Cloud の課金対象となるコンポーネントを使用します。費用を見積もるには、Cloud TPU の料金ページを確認してください。不要な課金を回避するために、このチュートリアルを完了したら、作成したリソースを必ずクリーンアップしてください。
リソースを設定する
このセクションでは、チュートリアルで使用する Cloud Storage、VM、Cloud TPU の各リソースを設定する方法を説明します。
Cloud Shell ウィンドウを開きます。
プロジェクト ID の変数を作成します。
export PROJECT_ID=project-id
Cloud TPU を作成するプロジェクトを使用するように Google Cloud CLI を構成します。
gcloud config set project ${PROJECT_ID}
このコマンドを新しい Cloud Shell VM で初めて実行すると、
Authorize Cloud Shell
ページが表示されます。ページの下部にある [Authorize
] をクリックして、gcloud
に認証情報を使用した GCP API の呼び出しを許可します。Cloud TPU プロジェクトのサービス アカウントを作成します。
gcloud beta services identity create --service tpu.googleapis.com --project $PROJECT_ID
このコマンドでは、Cloud TPU サービス アカウントを次の形式で返します。
service-PROJECT_NUMBER@cloud-tpu.iam.gserviceaccount.com
次のコマンドを使用して Cloud Storage バケットを作成します。
gsutil mb -p ${PROJECT_ID} -c standard -l europe-west4 -b on gs://bucket-name
この Cloud Storage バケットには、モデルのトレーニングに使用するデータとトレーニング結果が格納されます。このチュートリアルで使用する
gcloud compute tpus execution-groups
ツールは、Cloud TPU サービス アカウントのデフォルトの権限を設定します。権限の詳細な設定が必要な場合は、アクセスレベル権限をご覧ください。バケットのロケーションは、仮想マシン(VM)および TPU ノードと同じリージョンにする必要があります。VM と TPU ノードは、リージョン内のサブディビジョンである特定のゾーンに配置されます。
gcloud
コマンドを使用して Compute Engine VM と Cloud TPU を起動します。$ gcloud compute tpus execution-groups create \ --vm-only \ --name=resnet-tutorial \ --zone=europe-west4-a \ --disk-size=300 \ --machine-type=n1-standard-8 \ --tf-version=1.15.5
コマンドフラグの説明
vm-only
- VM のみを作成します。デフォルトでは、
gcloud compute tpus execution-groups
コマンドは VM と Cloud TPU を作成します。 name
- 作成する Cloud TPU の名前。
zone
- Cloud TPU を作成するゾーン。
disk-size
gcloud compute tpus execution-groups
コマンドで作成された VM のハードディスクのサイズ(GB)。machine-type
- 作成する Compute Engine VM のマシンタイプ。
tf-version
- Tensorflow
ctpu
のバージョンが VM にインストールされます。
gcloud
コマンドの詳細については、gcloud リファレンスをご覧ください。プロンプトが表示されたら、y キーを押して Cloud TPU リソースを作成します。
gcloud compute tpus execution-groups
コマンドの実行が終了したら、shell プロンプトがusername@projectname
からusername@vm-name
に変更されたことを確認します。 変更されていれば、Compute Engine VM にログインしていることになります。gcloud compute ssh resnet-tutorial --zone=europe-west4-a
これ以降、接頭辞 (vm)$
は Compute Engine VM インスタンスでコマンドを実行する必要があることを意味します。
ストレージ、モデル、データパスを構成する
次の環境変数を設定します。bucket-name を Cloud Storage バケットの名前に置き換えます。
(vm)$ export STORAGE_BUCKET=gs://bucket-name (vm)$ export MODEL_DIR=${STORAGE_BUCKET}/resnet (vm)$ export DATA_DIR=gs://cloud-tpu-test-datasets/fake_imagenet (vm)$ export PYTHONPATH="${PYTHONPATH}:/usr/share/tpu/models"
トレーニング アプリケーションでは、Cloud Storage でトレーニング データにアクセスできる必要があります。トレーニング アプリケーションは、Cloud Storage バケットを使用してトレーニング中にチェックポイントを保存します。
fake_imagenet を使用して ResNet モデルのトレーニングと評価を行う
ImageNet は画像データベースです。このデータベース内では画像が階層に編成されていて、階層の各ノードには数百、数千の画像が含まれています。
このチュートリアルでは、ImageNet の完全版のデータセットの fake_imagenet と呼ばれるデモバージョンを使用しています。このデモバージョンを使用すると、ストレージ容量と所要時間を ImageNet の完全版のデータセットに対してモデルを実行する際に通常必要となるものより抑えながらチュートリアルを試すことができます。
fake_imagenet データセットは Cloud Storage の次のロケーションにあります。
gs://cloud-tpu-test-datasets/fake_imagenet
fake_imagenet データセットは、Cloud TPU の使用方法を理解し、エンドツーエンドのパフォーマンスを検証する場合にのみ役立ちます。精度の数値と保存されたモデルは意味がありません。
ImageNet データセット全体をダウンロードして処理する方法については、ImageNet データセットのダウンロード、前処理、アップロードをご覧ください。
ctpu ユーティリティを使用して Cloud TPU リソースを起動します。
(vm)$ gcloud compute tpus execution-groups create \ --tpu-only \ --accelerator-type=v3-8 \ --name=resnet-tutorial \ --zone=europe-west4-a \ --tf-version=1.15.5
Cloud TPU 名の変数を設定します。
(vm)$ export TPU_NAME=resnet-tutorial (vm)$ export ACCELERATOR_TYPE=v3-8
モデル ディレクトリに移動します。
(vm)$ cd /usr/share/tpu/models/official/resnet/
トレーニング スクリプトを実行します。
単一の Cloud TPU デバイスを対象としたスクリプトでは、ResNet-50 モデルを 90 エポックまでトレーニングし、各トレーニング ステップの後に結果を評価します。トレーニング ステップ数は
train_steps
フラグで設定します。次のスクリプト コマンドラインを使用すると、モデルのトレーニングが約 15 分で行われます。トレーニングと評価は fake_imagenet データセットに対して行われるため、その結果は、実際のデータセットでトレーニングと評価を行った場合の結果を反映するものではありません。
このスクリプトを実際のデータセットで実行する場合は、
train_steps
フラグを使用してトレーニング ステップの数を指定します。使用するトレーニング ステップの数については、/usr/share/tpu/models/official/resnet/configs/cloud
ディレクトリ内の.yaml
ファイルをご覧ください。(vm)$ python3 resnet_main.py \ --tpu=${TPU_NAME} \ --data_dir=${DATA_DIR} \ --model_dir=${MODEL_DIR} \ --train_steps=500 \ --config_file=configs/cloud/${ACCELERATOR_TYPE}.yaml
コマンドフラグの説明
tpu
- Cloud TPU の名前を指定します。
ctpu
は、この名前を環境変数(TPU_NAME
)として Compute Engine VM に渡します。 data_dir
- トレーニング入力の Cloud Storage パス。この例では、fake_imagenet データセットに設定されています。
model_dir
- トレーニング中にチェックポイントとサマリーが保存される Cloud Storage バケット。既存のフォルダを使用して、同じサイズの TPU と TensorFlow バージョンで以前に生成されたチェックポイントを読み込むことができます。
config_file
- トレーニング中に使用する YAML 構成ファイルを指定します。このファイルの名前は使用される TPU のタイプに対応しています。例:
v2-8.yaml
トレーニング スクリプトの出力は次のようになります。
Eval results at step 500: { 'top_1_accuracy': 0.0010579427, 'top_5_accuracy': 0.005391439, 'global_step': 500, 'loss': 8.253192 }
この時点で、このチュートリアルを終了して、GCP リソースをクリーンアップすることも、Cloud TPU Pod でのモデルの実行をさらに詳しく調べることもできます。
Cloud TPU Pod を使用してモデルをスケーリングする
Cloud TPU Pod を使用してモデルをスケーリングすると、より迅速に結果を得ることができます。完全にサポートされている ResNet-50 モデルは、次の Pod スライスに対応しています。
- v2-32
- v2-128
- v2-256
- v2-512
- v3-32
- v3-128
- v3-256
- v3-512
- v3-1024
- v3-2048
Cloud TPU Pod を使用する場合は、まず Pod を使用してモデルをトレーニングし、その後、単一の Cloud TPU デバイスを使用してモデルを評価します。
Cloud TPU Pod を使用したトレーニング
単一のデバイスでモデルをトレーニングするために作成した Cloud TPU リソースを削除します。
(vm)$ gcloud compute tpus execution-groups delete resnet-tutorial \ --zone=europe-west4-a \ --tpu-only
使用する Pod スライスを指定するための
accelerator-type
パラメータを使用して、gcloud compute tpus execution-groups
コマンドを実行します。たとえば、次のコマンドは v3-32 の Pod スライスを使用します。(vm)$ gcloud compute tpus execution-groups create --name=resnet-tutorial \ --accelerator-type=v2-32 \ --zone=europe-west4-a \ --tf-version=1.15.5 \ --tpu-only
TPU_NAME
およびACCELERATOR_TYPE
環境変数を更新して、TPU Pod 名とアクセラレータ タイプを指定します。(vm)$ export TPU_NAME=resnet-tutorial (vm)$ export ACCELERATOR_TYPE=v2-32
MODEL_DIR
ディレクトリを更新してトレーニング データを保存します。(vm)$ export MODEL_DIR=${STORAGE_BUCKET}/resnet-tutorial
モデルをトレーニングし、使用する Pod スライスに対応する構成ファイルを使用するように、
config_file
パラメータを更新します。たとえば、トレーニング スクリプトは、v2-32.yaml
構成ファイルを使用しています。このスクリプトは、fake_imagnet データセットに対してモデルを 35 エポックまでトレーニングします。このトレーニングは、v3-128 Cloud TPU 上で約 90 分かかります。
(vm)$ python3 resnet_main.py \ --tpu=${TPU_NAME} \ --data_dir=${DATA_DIR} \ --model_dir=${MODEL_DIR} \ --train_steps=500 \ --config_file=configs/cloud/${ACCELERATOR_TYPE}.yaml
コマンドフラグの説明
tpu
- Cloud TPU の名前。
data_dir
- トレーニング入力の Cloud Storage パス。この例では、fake_imagenet データセットに設定されています。
model_dir
- トレーニング中にチェックポイントとサマリーが保存される Cloud Storage バケット。既存のフォルダを使用して、同じサイズの TPU と TensorFlow バージョンで以前に生成されたチェックポイントを読み込むことができます。
train_steps
- トレーニングに使用するステップの数。
config_file
- トレーニング中に使用する YAML 構成ファイルを指定します。このファイルの名前は使用される TPU のタイプに対応しています。例:
v2-8.yaml
。
モデルの評価
このステップでは、Cloud TPU を使用して、fake_imagenet 検証データに対して上記でトレーニングしたモデルを評価します。
モデルをトレーニングするために作成した Cloud TPU リソースを削除します。
(vm)$ gcloud compute tpus execution-groups delete resnet-tutorial \ --zone=europe-west4-a \ --tpu-only
v3-8 Cloud TPU Pod リソースを作成します。
(vm)$ gcloud compute tpus execution-groups create \ --tpu-only \ --name=resnet-tutorial \ --zone=europe-west4-a \ --tf-version=1.15.5 \ --accelerator-type=v2-8
TPU_NAME
環境変数を更新します。(vm)$ export TPU_NAME=resnet-eval
モデルの評価を実行します。今回は、
mode
フラグを指定し、eval
に設定します。(vm)$ python3 resnet_main.py \ --tpu=${TPU_NAME} \ --data_dir=${DATA_DIR} \ --model_dir=${MODEL_DIR} \ --mode=eval \ --config_file=configs/cloud/${ACCELERATOR_TYPE}.yaml
コマンドフラグの説明
tpu
- トレーニングに使用する Cloud TPU。
data_dir
- トレーニング データが格納されている Cloud Storage パス。この例では、fake_imagenet データセットに設定されています。
model_dir
- モデルのトレーニングの際にチェックポイントとサマリーが保存される Cloud Storage パス。以前のチェックポイントが、同じサイズの Cloud TPU と TensorFlow バージョンを使用して作成されていれば、既存のフォルダを再利用して以前に生成されたチェックポイントを読み込み、追加のチェックポイントを保存できます。
mode
train
、eval
、train_and_eval
、predict
のいずれか。config_file
- トレーニング中に使用する YAML 構成ファイルを指定します。このファイルの名前は使用される TPU のタイプに対応しています。例:
v2-8.yaml
これにより、次のような出力が生成されます。
Eval results: { 'loss': 8.255788, 'top_1_accuracy': 0.0009969076, 'global_step': 0, 'top_5_accuracy': 0.005126953 }. Elapsed seconds: 76
トレーニングと評価は fake_imagenet データセットに対して行われているため、出力結果には、実際のデータセットでトレーニングと評価を行った場合の出力は反映されません。
クリーンアップ
このチュートリアルで使用したリソースについて、Google Cloud アカウントに課金されないようにするには、リソースを含むプロジェクトを削除するか、プロジェクトを維持して個々のリソースを削除します。
Compute Engine インスタンスとの接続を切断していない場合は切断します。
(vm)$ exit
プロンプトが
username@project
に変わります。これは、現在、Cloud Shell 内にいることを示しています。Cloud Shell で次のコマンドを使用して、Compute Engine VM と Cloud TPU を削除します。
$ gcloud compute tpus execution-groups delete resnet-tutorial \ --zone=europe-west4-a
gcloud compute tpus execution-groups list
を実行して、リソースが削除されたことを確認します。削除には数分かかることがあります。以下のようなレスポンスは、インスタンスが正常に削除されたことを示します。$ gcloud compute tpus execution-groups list \ --zone=europe-west4-a
次のような空の TPU のリストが表示されます。
NAME STATUS
次に示すように、
gsutil
を使用して Cloud Storage バケットを削除します。bucket-name を Cloud Storage バケットの名前に置き換えます。$ gsutil rm -r gs://bucket-name
次のステップ
TensorFlow Cloud TPU のチュートリアルでは通常、サンプル データセットを使用してモデルをトレーニングします。このトレーニングの結果は推論には使用できません。モデルを推論に使用するには、一般公開されているデータセットまたは独自のデータセットでデータをトレーニングします。Cloud TPU でトレーニングされた TensorFlow モデルは通常、データセットを TFRecord 形式にする必要があります。データセット変換ツールのサンプルを使用して、画像分類データセットを TFRecord 形式に変換できます。画像分類モデルを使用しない場合は、自分でデータセットを TFRecord 形式に変換する必要があります。詳細については、TFRecord と tf.Example をご覧ください。
ハイパーパラメータ調整
データセットでモデルのパフォーマンスを向上させるには、モデルのハイパーパラメータを調整します。すべての TPU でサポートされているモデルに共通のハイパーパラメータに関する情報については、GitHub をご覧ください。モデルに固有のハイパーパラメータに関する情報については、各モデルのソースコードで確認できます。ハイパーパラメータ調整の詳細については、ハイパーパラメータ調整の概要、ハイパーパラメータ調整サービスの使用、ハイパーパラメータを調整するをご覧ください。
推論
モデルをトレーニングしたら、そのモデルを推論(予測)に使用できます。AI Platform は、機械学習モデルを開発、トレーニング、デプロイするためのクラウドベースのソリューションです。モデルをデプロイすれば、AI Platform Prediction サービスを使用できるようになります。
- ローカルマシンへのインストール方法など、
ctpu
の詳細を学習する。 - TensorBoard の TPU ツールを確認します。
- Cloud TPU と GKE を使用して ResNet をトレーニングする方法を確認します。
- RetinaNet オブジェクト検出モデルのチュートリアルに従います。
- 上記の手順を出発点として使用して、Cloud TPU で TensorFlow SqueezeNet モデルを実行します。SqueezeNet と ResNet-50 のモデル アーキテクチャは類似しています。同じデータとコマンドライン フラグを使用して、モデルをトレーニングできます。