Cloud TPU
機械学習モデルのトレーニングと実行をこれまで以上に高速化
Google Cloud AI でビジネスを支援
機械学習は、ネットワーク セキュリティから医療診断に至るまで、ビジネスや研究に飛躍的な進歩をもたらしました。誰もが同じようなブレークスルーを達成できるよう、Google は Tensor Processing Unit（TPU）を開発しました。Cloud TPU は、翻訳、フォト、検索、アシスタント、Gmail などの Google サービスを支えるカスタム設計の機械学習 ASIC です。ここでは、TPU と機械学習を利用してお客様の会社の成功、特に規模の拡大を加速させる方法について説明します。
機械学習のパフォーマンスとベンチマーク
Cloud TPU と他のアクセラレータとの違いについては、ブログをご覧ください。MLPerf ベンチマークの結果もご確認いただけます。
利点
Google Cloud 上の AI 向けに開発
Cloud TPU は Google Cloud の AI サービスを使用して、最先端の機械学習モデルを実行するように設計されています。そして、そのカスタム高速ネットワークは、1 つの Pod で 100 PFLOPS 以上のパフォーマンスを発揮します。ビジネスを変革し、次の研究のブレークスルーを生み出すのに十分な計算能力を備えています。
ML ソリューションでのイテレーションの高速化
機械学習モデルのトレーニングはコードのコンパイルに似ています。頻繁に、かつできるだけ効率的に更新する必要があります。また、アプリのビルド、デプロイ、調整に伴い、ML モデルを繰り返しトレーニングする必要もあります。Cloud TPU はパフォーマンスが堅牢で低コストなため、ソリューションで迅速かつ頻繁な反復を行う機械学習チームにとって理想的です。
定評ある最新のモデル
現実世界の多くのユースケースに対応する、独自の機械学習型ソリューションをビルドできます。データを取り込み、Google によって最適化された参照モデルをダウンロードしてトレーニングを開始するだけです。
Cloud TPU プロダクト
Cloud TPU v2
Cloud TPU v3
Cloud TPU v2 Pod
Cloud TPU v3 Pod
Cloud TPU の特長
モデル ライブラリ
増え続ける Cloud TPU 用に最適化されたモデルのライブラリを活用して、すぐに使い始めることができます。画像分類、オブジェクト検出、言語モデリング、音声認識などにおいて、最適なパフォーマンス、精度、品質が提供されます。
Cloud TPU からカスタム マシンタイプへの接続
カスタムタイプの AI Platform Deep Learning VM Image から Cloud TPU に接続できるので、ワークロードに合わせてプロセッサ速度、メモリ、高パフォーマンス ストレージ リソースの最適なバランスを維持することができます。
Google Cloud Platform との完全な統合
Cloud TPU と Google Cloud のデータおよび分析サービスの中心的機能は Google Kubernetes Engine（GKE）など他の Google Cloud Platform プロダクトと完全に統合されています。そのため、Cloud TPU で機械学習ワークロードを実行すると、業界をリードする GCP のストレージ、ネットワーキング、データ分析テクノロジーを活用できます。
プリエンプティブル Cloud TPU
チェックポインティングを設けた長時間のトレーニングや、大規模なデータセットのバッチ予測など、フォールト トレラントな機械学習のワークロードにプリエンプティブル Cloud TPU を利用すれば、コストを抑えられます。プリエンプティブル Cloud TPU は、オンデマンド インスタンスと比較して 70% 安価です。初回の試験運用から大規模なハイパーパラメータ検索にいたるまで、大幅に費用を低減できます。
導入事例
Google とのコラボレーションや TensorFlow Research Cloud TPU の利用により、かつてない規模で新しい手法や試みを実施できます。
Max Kelsen 社 機械学習およびリサーチ担当リーダー、Athon Millane 氏
Google Cloud TPU はディープ ラーニングを支援することを目的として急速に進化している画期的なテクノロジーの一例です。新しいモデルのプログラミングの複雑さとモデルのトレーニングに要する時間がともに大きく減少するため、TensorFlow ワークロードを TPU に移行したことで生産性が大幅に向上しました。
Two Sigma 社 CTO、Alfred Spector 氏
料金
Cloud TPU では、機械学習モデルのトレーニングのために使用される、Cloud TPU のプリエンプティブルおよび非プリエンプティブル（オンデマンド）使用に対して課金されます。詳しい料金情報については、料金ガイドをご覧ください。
1 つの Cloud TPU デバイスの料金
次の表に、1 つの Cloud TPU デバイスの使用料金をリージョン別に示します。
| バージョン | オンデマンド | プリエンプティブル |
|---|---|---|
| Cloud TPU v2 | 1 時間あたり $4.50/TPU | 1 時間あたり $1.35/TPU |
| Cloud TPU v3 | 1 時間あたり $8.00/TPU | 1 時間あたり $2.40 / TPU |
| バージョン | オンデマンド | プリエンプティブル |
|---|---|---|
| Cloud TPU v2 | 1 時間あたり $4.95/TPU | 1 時間あたり $1.485/TPU |
| Cloud TPU v3 | 1 時間あたり $8.80/TPU | 1 時間あたり $2.64 / TPU |
| バージョン | オンデマンド | プリエンプティブル |
|---|---|---|
| Cloud TPU v2 | 1 時間あたり $5.22/TPU | 1 時間あたり $1.566/TPU |
| Cloud TPU v3 | この地域ではご利用になれません | この地域ではご利用になれません |
Cloud TPU Pod の料金
次の表に、Cloud TPU Pod スライスの使用料金を示します。
| Cloud TPU v2 Pod | 評価価格/時間 | 1 年間の確約利用割引価格（37% 割引） | 3 年間の確約利用割引価格（55% 割引） |
|---|---|---|---|
| 32 コア Pod スライス | $24 米ドル | $132,451 米ドル | $283,824 米ドル |
| 128 コア Pod スライス | $96 米ドル | $529,805 米ドル | $1,135,296 米ドル |
| 256 コア Pod スライス | $192 米ドル | $1,059,610 米ドル | $2,270,592 米ドル |
| 512 コア Pod スライス | $384 米ドル | $2,119,219 米ドル | $4,541,184 米ドル |
| Cloud TPU v3 Pod | 評価価格/時間 | 1 年間の確約利用割引価格（37% 割引） | 3 年間の確約利用割引価格（55% 割引） |
| 32 コア Pod スライス | $32 米ドル | $176,601 米ドル | $378,432 米ドル |
Cloud TPU Pod の構成や、より大きな Cloud TPU v3 Pod スライスの見積もりをご希望の場合は、営業担当者にお問い合わせください。
リソース
Cloud TPU のチュートリアル、クイックスタート、ドキュメント
Next ’19: TPU による高速で無駄のないデータ サイエンス
AI Hub からの Cloud TPU のコンテンツ
画像の内容: Cloud TPU を使用した高速、高精度の画像セグメンテーション
TPU のディープ ラーニングに特化した設計とは
Cloud TPU Pod で TensorFlow ML モデルを短時間、低コストでトレーニング
Cloud AI プロダクトはこちらに記載されている各種 SLA ポリシーに準拠しています。このような SLA ポリシーで保証されているレイテンシや可用性は、他の Google Cloud サービスと異なる場合があります。