割り当てポリシー
割り当て
割り当ての方式は、使用している TPU のバージョンに応じて異なります。TPU v2 および v3 の割り当ては、Cloud TPU コア数で定義されます。1 個の Cloud TPU デバイスは、4 個の TPU チップと 8 個のコア(TPU チップあたり 2 個のコア)で構成されています。TPU v2 と v3 の割り当ては、単一デバイスと TPU Pod で異なります。単一デバイスには v2 または v3 TPU Pod の割り当てを使用できません。たとえば、v3-16 Pod スライスの割り当てがある場合、2 つの v3-8 単一デバイスを作成することはできません。
TPU v4 の場合、割り当ては Cloud TPU チップでのみ決定されます。TPU v4 はすべて Pod スライスとして扱われるため、単一の TPU デバイスというコンセプトはありません。v4 の割り当てはさまざまな方法で使用できます。たとえば、v4-32 Pod スライスの割り当てがある場合は、この割り当てを使用して 4 つの v4-8 Pod スライスを作成できます。
- Cloud TPU v2 Pod は、256 個の TPU チップ(512 コア)を含む 64 個の TPU デバイスで構成されています。
- Cloud TPU v3 Pod は、1,024 個の TPU チップ(2,048 コア)を含む 256 個の TPU デバイスで構成されています。
- Cloud TPU v4 Pod は、4,096 個の TPU チップ(8,192 コア)を含む 1,024 個の TPU デバイスで構成されています。
また、コアの数は特定の Cloud TPU の割り当てを指定する単位としても使用されます。たとえば、8 個の割り当てで使用できるのは 8 個のコア、16 個の割り当てで使用できるのは最大 16 個のコアとなります。
Cloud TPU のバージョンとコアの数は「version-cores」表記(例: v2-8)で表します。また、コアの数は割り当てを指定する単位としても使用されるため、この表記は Cloud TPU の割り当てを表す際にも使われます。たとえば、v2-32 はコアが 32 個の TPU v2 タイプを示します。
新しい Google Cloud プロジェクトを作成すると、Cloud TPU のデフォルトの割り当て量がプロジェクトに与えられます。
TPU v4 の割り当て
TPU v4 の割り当てを受け取るには、営業担当者にお問い合わせいただくか、こちらの登録フォームに入力してください。
単一デバイス v2 および v3 TPU タイプの割り当て
単一デバイス TPU タイプの場合、割り当てにはオンデマンド コアの数とプリエンプティブル TPU コアの数があります。
- オンデマンド TPU: デフォルトの割り当ては 16 コア(2 TPU デバイス)です。
- プリエンプティブル TPU: デフォルトの割り当ては 48 コア(6 TPU デバイス)以上です。
v2 と v3 の TPU Pod タイプの割り当て
Cloud TPU Pod のデフォルトの割り当ては 0 です。TPU Pod タイプを使用するには、評価用割り当てをリクエストするか、追加の割り当てをリクエストする必要があります。
評価用割り当て
評価用割り当てへのアクセスをリクエストすると、TPU Pod タイプのパフォーマンスをテストできます。評価用割り当てを使用して作成した TPU ノードは 1 秒単位で課金されますが、オンデマンド TPU デバイス、または確約利用の割り当てを使用して作成したデバイスと同じレベルのサービスを保証するものではありません。評価用割り当ては、限られた時間だけプロジェクトに与えられます。
割り当てのキューイングをリクエストする
すべての TPU タイプで共有されるキュー内のリクエスト数に関しては、割り当てが存在します。デフォルトの割り当てはすべてのプロジェクトで使用でき、また追加の割り当てをリクエストできます。
追加の割り当てをリクエストする
Google Cloud プロジェクトに与えられた割り当ては、Google Cloud Console に表示されます。Cloud TPU の割り当てを増やしたい場合は、次の手順に従って、Google Cloud Console の [割り当て] ページからリクエストできます。
- [割り当て] ページに移動します。
- [フィルタ] ボックスで、プルダウン リストから [割り当て] を選択します。新しい [プロパティ] プルダウン メニューが開きます。
- [プロパティ] メニューから [TPU tpu-type Pod cores per project per region] を選択します。ここで、tpu-type は、使用している TPU のタイプです。たとえば、v2 や v3 です。
または、[TPU tpu-type Pod cores per project per zone] を選択することもできます。
各ゾーンで使用できる TPU タイプの詳細については、TPU タイプとゾーンを参照してください。
- Cloud TPU Pod を使用するリージョンまたはゾーンを選択します。
- [割り当てを編集] をクリックします。
- 名前、メールアドレス、電話番号を入力して、[次へ] をクリックします。
- 割り当て量を増やすリクエストを入力して、[次へ] をクリックします。
- リクエストを送信します。
リクエスト後、1~2 営業日以内に Cloud TPU チームから返答いたします。