Cloud TPU
機械学習モデルのトレーニングと実行をこれまで以上に高速化
Google Cloud AI でビジネスを支援
機械学習は、ネットワーク セキュリティから医療診断に至るまで、ビジネスや研究に飛躍的な進歩をもたらしました。誰もが同じような成果を上げることができるよう、Google は Tensor Processing Unit（TPU）を開発しました。Cloud TPU は、翻訳、フォト、検索、アシスタント、Gmail などの Google サービスを支えるカスタム設計の機械学習 ASIC です。ここでは、TPU と機械学習を利用して会社の成功、特に規模の拡大を加速させる方法について説明します。
機械学習のパフォーマンスとベンチマーク
Cloud TPU と他のアクセラレータとの違いについては、ブログをご覧ください。MLPerf ベンチマークの結果でもご確認いただけます。
利点
Google Cloud の AI 向けに開発
Cloud TPU は Google Cloud の AI サービスを使用して、最先端の機械学習モデルを実行するように設計されています。そして、そのカスタム高速ネットワークは、1 つの Pod で 100 PFLOPS 以上のパフォーマンスを発揮します。ビジネスを変革し、次の研究で画期的な成果を上げるのに十分な計算能力を備えています。
ML ソリューションでのイテレーションの高速化
機械学習モデルのトレーニングはコードのコンパイルに似ています。頻繁に、かつできるだけ効率的に更新する必要があります。また、アプリの構築、デプロイ、調整に伴い、ML モデルを繰り返しトレーニングする必要もあります。Cloud TPU はパフォーマンスが堅牢で低コストなため、ソリューションで迅速かつ頻繁なイテレーションを行う機械学習チームにとって理想的です。
定評ある最新のモデル
現実世界の多くのユースケースに対応する、独自の機械学習型ソリューションを構築できます。データを取り込み、Google によって最適化された参照モデルをダウンロードしてトレーニングを開始するだけです。
Cloud TPU プロダクト
Cloud TPU v2
Cloud TPU v3
Cloud TPU v2 Pod
Cloud TPU v3 Pod
Cloud TPU の特長
モデル ライブラリ
増加を続ける Cloud TPU 用に最適化されたモデルのライブラリを活用することですぐに使い始めることができます。画像分類、オブジェクト検出、言語モデリング、音声認識などにおいて、最適なパフォーマンス、精度、品質が提供されます。
Cloud TPU からカスタム マシンタイプへの接続
カスタムタイプの AI Platform Deep Learning VM Image から Cloud TPU に接続できるので、ワークロードに合わせてプロセッサ速度、メモリ、高パフォーマンス ストレージ リソースの最適なバランスを維持できます。
Google Cloud Platform との完全な統合
Cloud TPU と Google Cloud のデータおよび分析サービスの中心的機能は、Google Kubernetes Engine（GKE）など他の Google Cloud Platform プロダクトと完全に統合されています。そのため、Cloud TPU で機械学習ワークロードを実行すると、業界をリードする GCP のストレージ、ネットワーキング、データ分析テクノロジーを活用できます。
プリエンプティブル Cloud TPU
チェックポインティングを設けた長時間のトレーニングや、大規模なデータセットのバッチ予測など、フォールト トレラントな機械学習のワークロードにプリエンプティブル Cloud TPU を利用すれば、コストを抑えられます。プリエンプティブル Cloud TPU は、オンデマンド インスタンスと比較して 70% 安価です。初回の試験運用から大規模なハイパーパラメータ検索にいたるまで、大幅に費用を低減できます。
お客様の声
Google とのコラボレーションや TensorFlow Research Cloud TPU の利用により、かつてない規模で新しい手法や試みを実施できます。
Max Kelsen 社機械学習兼リサーチ担当リーダー Athon Millane 氏
Google Cloud TPU はディープ ラーニングを支える、急速に進化しつつある画期的なテクノロジーの一例です。TensorFlow ワークロードを TPU に移行したことで、新しいモデルのプログラミングの複雑さとモデルのトレーニングに要する時間がともに大きく減少し、生産性が大幅に改善しました。
Two Sigma 社 CTO Alfred Spector 氏
料金
Cloud TPU では、機械学習モデルのトレーニングのために使用される、Cloud TPU のプリエンプティブルおよび非プリエンプティブル（オンデマンド）使用に対して課金されます。詳しい料金情報については、料金ガイドをご覧ください。
単一の Cloud TPU デバイスの料金
次の表に、単一の Cloud TPU デバイスの使用料金をリージョン別に示します。
| バージョン | オンデマンド | プリエンプティブル |
|---|---|---|
| Cloud TPU v2 | 1 時間あたり $4.50 / TPU | 1 時間あたり $1.35 / TPU |
| Cloud TPU v3 | 1 時間あたり $8.00 / TPU | 1 時間あたり $2.40 / TPU |
| バージョン | オンデマンド | プリエンプティブル |
|---|---|---|
| Cloud TPU v2 | 1 時間あたり $4.95 / TPU | 1 時間あたり $1.485 / TPU |
| Cloud TPU v3 | 1 時間あたり $8.80 / TPU | 1 時間あたり $2.64 / TPU |
| バージョン | オンデマンド | プリエンプティブル |
|---|---|---|
| Cloud TPU v2 | 1 時間あたり $5.22 / TPU | 1 時間あたり $1.566 / TPU |
| Cloud TPU v3 | この地域ではご利用になれません | この地域ではご利用になれません |
Cloud TPU Pod の料金
次の表に、Cloud TPU Pod スライスの使用料金を示します。
| Cloud TPU v2 Pod | 評価価格 / 時間 | 1 年間の確約利用割引価格（37% 割引） | 3 年間の確約利用割引価格（55% 割引） |
|---|---|---|---|
| 32 コア Pod スライス | $24 | $132,451 | $283,824 |
| 128 コア Pod スライス | $96 | $529,805 | $1,135,296 |
| 256 コア Pod スライス | $192 | $1,059,610 | $2,270,592 |
| 512 コア Pod スライス | $384 | $2,119,219 | $4,541,184 |
| Cloud TPU v3 Pod | 評価価格 / 時間 | 1 年間の確約利用割引価格（37% 割引） | 3 年間の確約利用割引価格（55% 割引） |
| 32 コア Pod スライス | $32 | $176,601 | $378,432 |
Cloud TPU Pod の構成や、より大きな Cloud TPU v3 Pod スライスの見積もりをご希望の場合は、営業担当者にお問い合わせください。
リソース
Cloud TPU のチュートリアル、クイックスタート、ドキュメント
Next ’19: TPU による高速で無駄のないデータ サイエンス
AI Hub からの Cloud TPU のコンテンツ
画像の内容: Cloud TPU を使用した高速、高精度の画像セグメンテーション
TPU のディープ ラーニングに特化した設計とは
Cloud TPU Pod の ML パフォーマンス ― TensorFlow モデルを高速かつ低コストでトレーニング
Cloud AI プロダクトはこちらに記載されている各種 SLA ポリシーに準拠しています。このような SLA ポリシーで保証されているレイテンシや可用性は、他の Google Cloud サービスと異なる場合があります。